Krstný otec umelej inteligencie varuje pred jej rizikami a opúšťa Google

„S umelou inteligenciou vyvolávame démona“, povedal Elon Musk ešte v roku 2015, keď varoval pred rizikom, spojeným s nekontrolovaným vývojom autonómnych inteligentných strojov. Zdá sa, že mal pravdu. Paradoxne, môže za to do značnej miery spoločnosť OpenAI, ktorú Musk spoluzakladal práve kvôli tomu, aby sa takéto riziko obmedzilo.

Četovací systém ChatGPT od OpenAI zaznamenáva po niekoľkých mesiacoch od svojho sprístupnenia obrovský boom používateľov, no vyvoláva aj otázniky. A to nielen u učiteľov, ktorým robí starosť rozlíšiť, či školské práce vypracovala umelá inteligencia (AI), alebo študent. Čoraz viac odborníkov tiež začína upozorňovať na nepredvídateľné následky pri širokom a neregulovanom využívaní AI.

Vlna pozornosti okolo ChatGPT koncom minulého roka vyvolala „preteky v zbrojení“ medzi technologickými spoločnosťami pri vývoji a nasadení podobných nástrojov AI vo svojich produktoch. Na čele tohto trendu sú OpenAI, Microsoft a Google, ale firmy ako IBM, Amazon, Baidu a Tencent pracujú na podobných technológiách.

Geoffrey Hinton (na titulnej foto v strede), označovaný aj za „krstného otca AI“, minulý týždeň opustil svoju pozíciu pri vývoji neurónových sietí v spoločnosti Google, aby hovoril o nebezpečenstvách technológie, ktorú pomáhal vyvíjať.

Hinton roky pôsobil v Google pri vývoji AI, no postupne začal mať obavy z tejto technológie. Na Twitteri uviedol, že opustil Google, aby mohol slobodne hovoriť o rizikách AI, bez snahy konkrétne kritizovať Google.

„Odišiel som, aby som mohol hovoriť o nebezpečenstvách AI bez toho, aby som zvážil, ako to ovplyvňuje Google,“ uviedol Hinton na Twitteri. „Google konal veľmi zodpovedne.“

Hintonov prínos pre bývalého zamestnávateľa ocenil aj Jeff Dean, hlavný vedec spoločnosti Google. Odchod Hintona z Google a vyjadrenie obáv z AI prichádza v čase, keď rastúci počet zákonodarcov a odborníkov v oblasti technológií vyslovuje obavy z potenciálu novej generácie chatbotov poháňaných AI. Dôvodom je ich potenciálne zneužitie na šírenie dezinformácií a ohrozenie pracovných miest.

V marci niektoré významné osobnosti v oblasti techniky, vrátane Elona Muska, podpísali list, v ktorom vyzvali laboratóriá umelej inteligencie, aby zastavili výcvik najvýkonnejších systémov AI na najmenej šesť mesiacov, kvôli „hlbokým rizikám pre spoločnosť a ľudstvo“.

List prišiel len dva týždne po tom, čo OpenAI oznámila GPT-4, ešte výkonnejšiu verziu technológie, ktorá poháňa ChatGPT 3.5.

GPT-4 dokáže vytvoriť fungujúcu webovú stránku z ručne nakresleného náčrtu, dá sa použiť na navrhovanie súdnych sporov, absolvovanie štandardizovaných skúšok, meniť  tón a štýl odpovedí a generovať odpovede s viac ako 25 000 slovami. GPT-3.5 má rozsah odpovedí obmedzený zhruba na 3 000 slov.

V rozhovore pre Times Hinton zopakoval obavy z potenciálu AI eliminovať pracovné miesta a vytvoriť svet, v ktorom mnohí „už nedokážu vedieť, čo je pravda“. Poukázal tiež na ohromujúce tempo napredovania, ktoré ďaleko presahuje to, čo on a iní očakávali.

Pripomenul, že ešte donedávna si väčšina ľudí, vrátane neho, myslela, že myšlienka AI inteligentnejšej ako človek je  úplne mimo realitu. „Myslel som, že to bude možné o 30 až 50 rokov alebo neskôr. Očividne si to už nemyslím“, povedal Geoffrey Hinton.

Umelá inteligencia však nie je iba četovacích robotoch. Zasiahne pravdepodobne do mnohých oblastí technológií a života.

Ešte v roku 2021 pri prejave na Indickom technologickom inštitúte v Bombaji Hinton hovoril, ako AI posilní zdravotnú starostlivosť, ale zároveň vytvorí príležitosti pre zdokonalenie smrtiacich autonómnych zbraní. Túto vyhliadku považoval za oveľa bezprostrednejšiu a desivejšiu ako hrozbu náhrady pracovných miest umelou inteligenciou. Tú považoval za veľmi vzdialenú, no ukazuje sa, že aj v tomto sa možno mýlil.