EÚ prijala ako prvá na svete rozsiahly zákon o umelej inteligencii

Európsky parlament tento týždeň schválil rozsiahlu reguláciu aktuálne jedného z najrýchlejšie sa rozvíjajúceho technologických odvetví. Za prijatie hlasovalo 523 poslancov, 46 ich bolo proti, 49 sa hlasovania nezúčastnilo.

Akt o umelej inteligencii bol v príprave takmer tri roky a jeho základným cieľom je, aby systémy AI dostupné v EÚ boli bezpečné a nezasahovali do existujúcich práv občanov.

Zákon v rámci ochrany občanov zakazuje napríklad cielené získavanie fotografií a videí z internetu alebo z bezpečnostných kamier za účelom tvorby databáz na rozpoznávanie tvárí. Zakazuje ale tiež aj využívanie systémov na rozpoznávanie emócií v práci či v škole, ako aj prediktívne profilovanie ľudí pre policajné účely.

Pri poslednom príklade do veľkej miery hrozí, že AI by mohla vytvárať zaujaté výstupy, z tohto dôvodu EÚ zakazuje napríklad aj kategorizáciu založenú na citlivých charakteristikách osôb. Zakázané sú aj systémy, ktoré by pomocou AI mohli manipulovať ľudské správanie alebo zneužívať ich zraniteľnosť.

Zaujímavé je, že EÚ do pomerne veľkej miery počíta s využitím umelej inteligencie na identifikáciu osôb, hoci toto využitie povoľuje iba v rámci výnimky. „Biometrická identifikácia v reálnom čase sa môže používať len vtedy, ak sú splnené prísne záruky, napríklad ak je takéto použitie časovo a geograficky obmedzené a bolo k nemu vopred vydané súdne alebo správne povolenie. Môže sa to týkať napríklad cieleného pátrania po nezvestných osobách alebo predchádzania teroristickým útokom.„

Špecifické pravidlá budú platiť pre systémy AI aplikované v rizikových odvetviach, ako je napríklad kritická infraštruktúra, vzdelávanie, náborové oddelenia v zamestnaniach, vzdelávaní, zdravotníctve či bankovníctve. Používatelia takýchto systémov budú povinní viesť záznamy o ich používaní, zabezpečiť transparentnosť a ľudský dohľad. Pokiaľ sa občanom nebude zdať, že takýto systém funguje v nesúlade so zákonom, môžu podať sťažnosť, ktoré spustí prešetrovanie jeho fungovania.

Európska únia sa dotkne aj četbotov a nástrojov na tvorbu obrázkov, videí či zvukových nahrávok. Ich prevádzkovatelia budú musieť publikovať podrobné súhrny obsahu používaného na školenia, výkonnejšie modely generatívnej umelej inteligencie budú musieť prechádzať hodnotením, posudzovaním a zmierňovaním rizík. EÚ tiež po novom priamo do zákona ustanovuje povinnosť označovať umelo vytvorené alebo zmanipulované obrázky, zvuky a videá, k čomu sa už aj predtým dobrovoľne prihlásili viaceré technologické spoločnosti.

Zákon musí ešte prejsť finálnou kontrolou formulácie a pokiaľ pôjde všetko podľa plánu, prijaté s konečnou platnosťou by malo byť koncom volebného obdobia. Uplatňovať sa v celku následne začne 24 mesiacov po nadobudnutí účinnosti, s niekoľkými výnimkami.

Zákaz určitých aplikácií spomínaných v úvode textu začne platiť už šesť mesiacov po nadobudnutí účinnosti, kódex správnej praxe bude zriadený deväť mesiacov po, pravidlá pre systémy AI na všeobecné účely vrátane ich správy začnú platiť dvanásť mesiacov po a povinnosti pre vysokorizikové systémy 36 mesiacov po nadobudnutí účinnosti.