AI môže spôsobiť zánik ľudstva, samotní lídri ju prirovnávajú k jadrovej zbrani

„Zmiernenie rizika vyhnutia v dôsledku AI by malo byť globálnou prioritou popri iných rizikách spoločenského rozsahu, ako sú pandémie a jadrová vojna“.

Takto znie celé spoločné vyhlásenie viac ako štyroch stoviek akademikov, novinárov, technologických lídrov a odborníkov na umelú inteligenciu, ktorí chcú touto cestou otvoriť celospoločenskú diskusiu o rizikách pokročilej AI.

Obavy odborníkov z rizík, ktoré so sebou prináša nástup umelej inteligencie do prakticky všetkých odvetví ľudských činností, nie sú ničím prekvapivé ani nové. Už koncom marca viacerí technologickí lídri na čele s Elonom Muskom a bývalým riaditeľom spoločnosti Google Ericom Schmidtom vyhlásili, že vývoj umelej inteligencie je potrebné pozastaviť, inak sa táto technológia môže vymknúť ľudstvu z pod kontroly.

Prekvapivé na novom spoločnom vyhlásení je, že sa pod neho podpísal napr. aj Sam Altman, zakladateľ a generálny riaditeľ spoločnosti OpenAI, ktorá stojí za jazykovým modelom GPT-4, na ktorom je podstavený aktuálne najpopulárnejší četbot ChatGPT, ako aj nový vyhľadávač Bing.

Altman pritom nie je jedinou zaujímavou osobnosťou, ktorú možno nájsť v zozname signatárov. Na prvých priečkach figuruje aj Demis Hassabis, generálny riaditeľ divízie DeepMind zaoberajúcej sa vývojom umelej inteligencie v spoločnosti Google či Kevin Scott a Eric Horvitz, technický a vedecký riaditelia spoločnosti Microsoft.

Sam Altman v marci priznal, že je „trochu vystrašený“ z možnosti, že by umelú inteligenciu mohli zneužiť autoritatívne vlády na šírenie dezinformácií a ovplyvňovanie verejnosti či vykonávanie kybernetických útokov. V rozhovore pre stanicu ABC tiež priznal, že mnoho ľudí zrejme príde kvôli AI o prácu, no tým podľa neho vznikne príležitosť na vytvorenie nových a lepších pracovných miest, s ktorými má stúpnuť aj kvalita a úroveň našich životov.

Sam Altman nenecháva diskusiu o rizikách a možných reguláciách umelej inteligencie iba v hladine teórií a úvah na internete. V priebehu mája sa za účelom prediskutovania týchto tém stretol s americkým prezidentom, ako aj s predsedníčkou Európskej komisie Ursulou von der Leyenovou.

Viacerí technologickí lídri sa tak v uplynulých mesiacoch ocitli v nezvyčajnej situácii, v ktorej volajú po regulácii technológie, ktorú sami vyvíjajú, celkom podobne, ako sa to svojho času udialo pri vývoji jadrových zbraní.

Sam Altman sa koncom mája podpísal aj pod blog, v ktorom spolu so svojimi kolegami zo spoločnosti OpenAI navrhujú možné riešenia pre zmiernenie globálnych rizík spôsobených umelou inteligenciou. V texte okrem iného navrhujú vznik medzinárodnej organizácie, ktorá by dohliadala na bezpečnosť umelej inteligencie podobne, ako to v prípade jadrovej energie robí Medzinárodná agentúra pre atómovú energiu. Podľa ich návrhu by tiež pokrokové AI modely museli na svoju prevádzku získať špeciálnu licenciu od vlád.

Žiadosti o pozastavenie vývoja umelej inteligencie či dokonca zákaz tejto technológie, sa nedá postaviť do tej istej úrovne, v akej o regulácii odvetvia AI hovorí Sam Altman. Bližšie svoj zámer Altman vysvetlil výboru amerického senátu. „Myslím si, že ak sa táto technológia vyberie zlým smerom, bude to veľmi zlé. Chceme spolupracovať s vládou, aby sme tomu spoločne zabránili“.