Kalifornia odmietla zákon o AI, ľuďom by vraj dal falošný pocit bezpečia

Vlády po celom svete postupne navrhujú a príjmajú zákony zamerané na reguláciu modelov umelej inteligencie a minimalizáciu rizík, ktoré so sebou táto technológia prináša. V Európskej únii bol takýto zákon prijatý ešte začiatkom s tohto roka s plným nadobudnutím platnosti od júna 2026.

V Spojených štátoch unifikovaný zákon na federálnej úrovni v tomto segmente chýba a tak ho v rôznych podobách a prístupoch postupne pripravujú jednotlivé štáty samostatne. V Kalifornii však tieto snahy nateraz stroskotali.

Zákon známy pod označením SB 1047 prešiel kalifornským štátnym zhromaždením 28. augusta v pomere 41 k 9 hlasom, avšak už v tom čase s výhradami viacerých strán. Americká obchodná komora verejne vyzvala kalifornského guvernéra Gavina Newsoma, aby zákon vetoval a ten o mesiac neskôr komore i ďalším odporcom zákona vyhovel.

V dôvodovej správe Newsom síce príznáva, že je dôležité segment umelej inteligencie regulovať a zámer zákona SB 1047 bol dobre mienený. Na druhej strane však argumentuje, že zákon sa zameriava len na veľké a drahé modely, čo môže obyvateľom Kalifornie dodávať falošný pocit bezpečia. Menšie AI modely podľa neho môžu byť rovnako nebezpečné, preto je podľa neho potrebné regulovať AI na základe reálnych rizík, nie len na základe veľkosti modelov a nákladov na ich vývoj či prevádzku.

„Kalifornia je domovom 32 z 50 popredných svetových spoločností v oblasti umelej inteligencie, ktoré sú priekopníkmi jedného z najvýznamnejších technologických pokrokov v modernej histórii. Sme lídrami v tejto oblasti vďaka našim výskumným a vzdelávacím inštitúciám, našej rozmanitej a motivovanej pracovnej sile a slobodnému rozvoju intelektuálnej slobody. Ako správcovia a inovátori budúcnosti beriem vážne zodpovednosť za reguláciu tohto odvetvia.„, uviedol Newsom.

Zákon udeľoval vývojárom modelov umelej inteligencie povinnosť prijímať bezpečnostné protokoly, ktoré by mali zabrániť „katastrofickým použitiam“ ich technológií. Súčasťou týchto opatrení by bolo aj testovanie modelov, nezávislé hodnotenie rizík a mechanizmy pre núdzové vypnutie modelov. Prvé porušenie týchto pravidiel by prevádzkovateľov stálo 10 miliónov dolárov a ďalších 30 miliónov dolárov za každý ďalší prešľap.

Problémom dnes už vetovaného zákona je, že by sa týkal len modelov, ktorých využívanie stojí aspoň 100 miliónov dolárov, alebo 10^26 FLOPS na ich tréning. Pod kontrolu by spadali zároveň aj odvodené projekty vytvorené treťou stranou, ak by do ich vývoja bolo investovaných aspoň 10 miliónov dolárov. Predchádzajúci návrh zákona počítal aj so zriadením špeciálneho oddelenia pre kontrolu AI modelov, ten najnovší už túto kompetenciu prenášal do rúk štátnej operačnej agentúry (GovOps), ktorá slúži na správu a dohľad nad štátnymi orgánmi a procesmi v Kalifornii.

Proti zákonu sa verejne ohradili viacerí špecialisti na vývoj umelej inteligencie, ako aj technologickí giganti ako sú Amazon, Apple a Google, podľa ktorých by zákon obmedzil rozvoj umelej inteligencie v kalifornskom technologickom odvetví. Všetky strany si však uvedomujú, že nejakú formu regulácie je potrebné prijať a to v čo najkratšom možnom čase.

„Aby bolo jasné – súhlasím s autorom – nemôžeme si dovoliť čakať na katastrofu, než začneme konať v záujme ochrany verejnosti. Kalifornia sa svojej zodpovednosti nevzdá. Musia byť prijaté bezpečnostné protokoly. Proaktívne ochranné opatrenia by mali byť implementované a prísne dôsledky pre zlomyseľných aktérov musia byť jasné a vynútiteľné.„, konštatuje v dôvodovej správe Gavin Newsom.