Zákon o umelej inteligencii dostal zelenú, založí sa ním aj Úrad pre AI

Rada Európskej únie tento týždeň schválila celosvetovo prvý rozsiahly zákon venovaný umelej inteligencii. Cieľom legislatívy je stanoviť jasné pravidlá pre vývoj a využívanie AI, ktoré majú nastaviť globálny štandard pre toto odvetvie.

Zákon je postavený na princípe rizika, teda čím vyššie je riziko škôd pre spoločnosť, tým prísnejšie pravidlá pre umelú inteligenciu nastavuje.

Pod dohľadom novej legislatívy, by v rámci Európskej únie mali byť do praxe zavádzané už iba modely umelej inteligencie, ktoré ešte predtým prejdú vyhodnocovaním rizika škôd, ktoré môžu európskej spoločnosti spôsobiť. Jedná sa napríklad o možnosť ich dopadu na zdravie, bezpečnosť, základné ľudské práva, životné prostredie, demokraciu alebo voľby. Potenciálne najškodlivejších AI sa budú týkať najprísnejšie pravidlá.

Systémy umelej inteligencie s vysokým rizikom nebudú zakázané, no podliehať budú súboru požiadaviek a povinností na získanie prístupu na európsky trh. Vyslovene zakázanú budú iba systémy pre kognitívnu behaviorálnu manipuláciu či sociálne hodnotenie, aké poznáme napríklad z Číny. Európska únia považuje riziko využívania takýchto systémov v praxi za neprijateľné.

Zákon taktiež zakazuje využívanie AI na prediktívne policajné práce založené na profilovaní a systémoch, ktoré využívajú biometrické údaje na kategorizáciu ľudí podľa špecifických kategórií, ako je napríklad rasa, vierovyznanie či sexuálna orientácia. Výnimku z týchto pravidiel môžu podľa EÚ dostať iba systémy využívanú výlučne na vojenské a obranné účely, ako aj na výskumné účely.

Na modely s nízkym rizikom sa budú vzťahovať len mierne podmienky transparentnosti. Radiť by sa sem mali aj tzv. modely všeobecnej inteligencie (GPAI), ktoré dnes poznáme zväčša ako textových či hlasových četbotov.

V praxi by tak mali vysokorizikové modely ešte pred ich nasadením do praxe prejsť posudkom vplyvu na základné práva občanov. Zákon teda predpokladá, že v rámci vývoja systémov AI by mali vzniknúť tzv. regulačné karantény AI, ktoré poskytnú spoločnostiam kontrolované prostredie na vývoj, testovanie a overovanie systémov so simuláciou reálnych podmienok skôr, než budú nasadené do ostrej prevádzky.

Nariadenie tiež stanovuje, že verejné subjekty využívajúce systémy AI s vysokým rizikom, sa budú musieť zaregistrovať do príslušnej databázy. Používatelia systémov pre rozpoznávanie tvárí na to zas budú musieť upozorniť osoby, ktoré sú takémuto systému vystavené.

Cieľom novej legislatívy je podľa Rady podpora rozvoja a používanie bezpečných a dôveryhodných systémov umelej inteligencie na celom jednotnom trhu EÚ ako súkromnými, tak aj verejnými subjektmi. Zákon by mal nájsť balans medzi zabezpečením dodržiavania základných práv občanov EÚ a ekonomickým rastom stimuláciou investícií a inovácií v oblasti umelej inteligencie v Európe.

„Prijatie zákona o umelej inteligencii je pre Európsku úniu významným míľnikom. Tento prelomový zákon, prvý svojho druhu na svete, rieši globálnu technologickú výzvu, ktorá tiež vytvára príležitosť pre naše spoločnosti a ekonomiky. Aktom o umelej inteligencii Európa zdôrazňuje dôležitosť dôvery, transparentnosti a zodpovednosti pri práci s novými technológiami a zároveň zabezpečuje, aby táto rýchlo sa meniaca technológia mohla prekvitať a podporovať európske inovácie.“, uviedol Mathieu Michel, belgický štátny tajomník pre digitalizáciu, zjednodušovanie administratívy, stavebné predpisy a ochranu súkromia.

Pre zabezpečenie presadzovania novoprijatej legislatívy, bude zriadených niekoľko orgánov:

• Úrad pre AI, ktorý bude súčasťou Komisie na presadzovanie spoločných pravidiel v celej EÚ,
• Vedecký panel nezávislých odborníkov na podporu činností v oblasti presadzovania práva,
• Rada pre umelú inteligenciu so zástupcami členských štátov, ktorá má riadiť a pomáhať Komisii a členským štátom pri konzistentnom a efektívnom uplatňovaní zákona o umelej inteligencii,
• Poradné fórum pre zainteresované strany na poskytnutie technických odborných znalostí rade AI a Komisii.

Porušenie novoprijatých pravidiel bude pokutované buď vopred určenou sumou, alebo percentom z celkového ročného obratu spoločnosti, ktorá pravidlá porušila, v jej predchádzajúcom fiškálnom roku, podľa toho, ktorá z týchto súm bude vyššia.

Zákon nadobudne svoju účinnosť dvadsať dní po uverejnení v Úradnom vestníku EÚ, dva roky na to sa začne uplatňovať aj v praxi.