Zasľúbený Mars a Damoklov meč umelej inteligencie

Šéf SpaceX a Tesly na podujatí South by Southwest (SXSW) v texaskom Austine 11. marca opäť rozprával o svojich víziách budúcnosti ľudstva, varujúc pred hrozbami, ktoré môžu viesť k zániku našej civilizácie.

Medzi rizikami, ktoré môžu v budúcnosti ohroziť ľudstvo spomenul Elon Musk „klasické“ nebezpečenstvá. Sú nimi skleníkový efekt a sním spojené globálne otepľovanie Zeme, možnosť svetového jadrového konfliktu a vymknutie sa umelej inteligencie (UI) spod kontroly.

Nekontrolovanú umelú inteligenciu považuje Musk dokonca za nebezpečnejšiu ako jadrové zbrane.

Okrem potreby bojovať proti uvoľňovaniu oxidu uhličitého a regulovať umelú inteligenciu preto Musk opäť hovoril o silnej potrebe kolonizovať Mars, prípadne Mesiac. Majú sa z nich stať bezpečné destinácie pre prežitie ľudstva.

Útek do bezpečia

Na konferencii SXSW, ktorá žije techno-optimizmom a ľudia sú očividne nadšení z jasnej budúcnosti v zajatí technológií, predstavujú Muskove slová podstatnú odchýlku smerom k vytriezveniu.

„Je pravdepodobné, že budú existovať ďalšie obdobia temna, najmä ak dôjde k tretej svetovej vojne,“ zdôraznil Musk. Tvrdí, že budúca kolónia na Marse by bola dostatočne izolovaná od konfliktov na Zemi a mohla by niesť pochodeň ľudskej civilizácie do budúcnosti.

Vesmírni osadníci by zároveň mohli obnoviť technologickú a kultúrnu úroveň zdevastovanej civilizácie na Zemi.

Vybudovanie kolónií na Mesiaci, a tým viac na Marse, však predstavuje obrovskú výzvu pre ľudstvo a nezaobíde sa bez medzinárodnej spolupráce. Žiadny projekt v histórii kozmonautiky, vrátane Medzinárodnej vesmírnej stanice ISS, sa finančnou, ani technologickou náročnosťou nepribližuje k budovaniu marsovských základní. A platí to aj o Mesiaci.

Napriek tomu o pilotovaných letoch k Marsu a osídľovaní planéty uvažujú viaceré kozmické agentúry, aj súkromné firmy. Okrem SpaceX má podobné ambície napríklad Boeing. SpaceX urobila prvý krok k doprave nákladov a robotických sond na Mars začiatkom februára, po úspešnom štarte momentálne najsilnejšej rakety Falcon Heavy. Tá má dostatočný ťah, aby dopravovala kozmické lode s posádkou na Mesiac a náklady na Mars. No pre pilotované lety k Marsu vyvíja SpaceX ešte silnejšiu raketu.

Práve na festivale SXSW v Austine 11.marca Elon Musk povedal, že prvý let rakety BFR určenej pre lety na Mars sa uskutoční v prvej polovici roka 2019. BFR, vyvíjaná pre zahájenie kolonizácie Marsu, bude najsilnejšou raketou v histórii, schopnou dopraviť na nízku obežnú dráhu až 150 ton užitočného zaťaženia.

Počítače nebezpečnejšie ako bomby?

Musk sa v Austine opakovane dotkol aj ďalšej hrozby, pred ktorou varuje už od roku 2014. „Zdôraznite moje slová,“ povedal Musk účastníkom festivalu, „umelá inteligencia je oveľa nebezpečnejšia ako jadrové zbrane. Tak prečo nemáme regulačný dohľad? “

Musk tak zopakoval pripomienky, ktoré vyjadril vlani v lete k vládnej regulácii UI, varujúc, že výskumníci UI nemajú taký strach z hrozby inteligentných strojov, aký by mali mať.

Musk však nie je osamotený v názoroch na možné hrozby UI. Analytici hovoria, že na myšlienku nejakých „Asimovových zákonov“, ktoré by boli bezpečnostnou poistkou pred zneužitím, alebo pred hrozbou zo strany umelej inteligencie, môžeme pokojne zabudnúť.

Ani tá štátna a nadnárodná regulácia, po ktorej volá Musk a ďalší, nás nemusí ochrániť. Dôvodom sú „vojačkovia“. Umelá inteligencia je prestížnym prvkom zbraňových systémov budúcnosti a je ťažké si predstaviť, že armády väčšiny krajín budú rešpektovať rozhodnutia regulačných orgánov. Rovnaký postoj vidíme aj pri iných konvenčných, aj strategických zbraniach.

Problém je, že umelá inteligencia bude za istou hranicou múdrejšia než jej používatelia, a riziko, že sa vzoprie vôli človeka, existuje. Aj preto experti reálne pracujú na koncepte „núdzového tlačidla“, ktoré nám umožní v prípade nutnosti umelú inteligenciu vypnúť z prevádzky.

Pri superinteligentných strojoch však nejde o žiadnu triviálnu úlohu. Ak by získali podozrenie, že sa to chystáme urobiť, zabránili by nám v tom. Musíme byť schopní urobiť to nepozorovane. (Viď Arthur Clarke – 2001: Vesmírna odyssea)

Z nepriateľa spojenec

Elon Musk nedávno vystúpil z rady neziskovej organizácie OpenAI, aby sa vyhol konfliktu záujmov, keďže Tesla pracuje aj na autonómnych systémoch riadenia. Zároveň však zostáva v centre diania okolo UI prostredníctvom ďalšej zo svojich firiem – Neuralink.

Musk uviedol, že jeho nová spoločnosť vyvíjajúca rozhranie medzi mozgom a počítačom, Neuralink,  má za cieľ pomôcť ľuďom udržať krok s UI tým, že sa s ňou prepoja. Ide o koncept typu – „ak nemôžeš nepriateľa poraziť, sprav z neho spojenca“.  „Neuralink sa pokúša pomôcť tak, že vytvorí rozhranie s vysokou prenosovou kapacitou medzi UI a ľudským mozgom,“ dodal Musk.

Na záver však dodajme, že nie všetci experti zdieľajú Muskov pesimizmus. Podľa niektorých nás môže umelá inteligencia a rozšírená realita významne obohatiť. Kolónie na Marse a na Mesiaci sa však môžu hodiť v každom prípade.