Nie všetky výdobytky techniky vznikli z inšpirácie prírodou. Dnešné lietadlá nemávajú krídlami, ako vtáci, a predsa lietajú, hoci so vztlakovou silou pracujú aj okrídlené stvorenia. Mnoho iných strojov a zariadení však kopíruje majstrovstvo prírody.
Pre umelú inteligenciu (UI) a neurónové siete s hĺbkovým učením tiež platí, že ak majú fungovať efektívnejšie a zdokonaľovať sa rýchlejšie, musia sa viac chovať ako mozog. Nemusí ísť nevyhnutne u mozog ľudský, ale ten vďaka prevládajúcemu antropocentrizmu považujeme za najvyspelejší. Hoci to nemusí byť pravda (čo na to vravia delfíny a iné veľryby?), pre neurológov a ďalších vedcov ide o mozog najlepšie preskúmaný.
Napodobňovanie mozgu nie je len šikovný prostriedok na rýchlejší vývoj lepšej umelej inteligencie. Pre jej ďalší vývoj je dokonca nevyhnutné, nazdávajú sa vedci z IBM. Neurónové siete s hĺbkovým učením ako je napríklad AlphaGo, alebo moderné systémy na jazykové preklady, patria k najlepším systémom UI, aké sme zatiaľ vytvorili.
Dokážu veľa, ale stále čelia významným technologickým prekážkam. Aby napríklad zvládli určitú schopnosť, vyžadujú najskôr prístup k obrovským dátovým databázam. Pri ich „rekvalifikácii“ sa musia ich pamäťové záznamy v podstate resetovať a začať od samotného začiatku.
Naproti tomu mozog sa učí postupne a pri ďalších skúsenostiach nové poznatky integruje ako nadstavbu predošlých skúseností. Prakticky to znamená, že mozog je v zásade časom stále múdrejší. (Úvahy o stareckej, alebo alkoholovej demencii teraz nechajme bokom.)
IBM Research pracuje na technikách strojového učenia na vývoj výpočtových modelov pozornosti a pamäti. Cieľom je vytvoriť systémy UI schopné „celoživotného“ vzdelávania, schopné prispôsobiť sa novým podmienkam a zachovať to, čo sa už naučili.
Za výsledky odmena
Vedecký tím vyvinul dve dôležité inovácie, umožňujúce krátkodobú a dlhodobú adaptáciu, pomocou techník zameraných na „odmeňovanie“, ktoré umožňujú sieťovú „plasticitu“.
Naša pozornosť stojí na schopnosti rýchlo vyberať a spracovávať najdôležitejšie informácie z obrovského prúdu vnemov (vizuálnych, sluchových, čuchových, atď.). Keďže sietnica poskytuje obmedzené zorné pole, musíme sa neustále rozhodovať, na ktoré „bleskové zábery“ oka sa treba sústrediť a robiť rýchle rozhodnutia.
IBM na svojom blogu uvádza príklad pasúcej sa antilopy, ktorá zbadá zakrádajúceho sa leva a musí okamžite konať.
Algoritmus vyvinutý IBM sa naučí rýchlo zamerať pozornosť na správny vstup na základe odmeny (v podobe spätnej väzby z tohto prostredia) získanej počas úlohy. Čím vyššia je odmena, tým väčšia pozornosť bude kladená na určitý vstup.
V prípade leva a antilopy sa antilopa naučí, kam sa má pozerať, a pri zistení podozrivých pohybov v kríkoch sa dá na útek. Jej odmenou je prežitie.
Neurogenetické učenie
Ďalšia technika, ktorú vyvíja IBM pre pamäť na dlhodobú adaptáciu, je založená na neuroplasticite.
Metóda umožňujúca existenciu dlhodobého učenia je inšpirovaný procesom neurogenézy u dospelých, ktorá nastáva v hipokampe. To je časť ľudského mozgu, zodpovedná za vytváranie spomienok.
Kým synaptická plasticita, čiže zmena sily spojenia neurónov počas učenia, je štandardným prístupom k tréningu neurónovej siete, iné typy plasticity, ako napríklad neurogenéza, pomôžu vytvoriť nové metódy strojového učenia, kde sa architektúra siete neustále prispôsobuje v reakcii na meniace sa prostredie počas celoživotného vzdelávania.
Vedci navrhli algoritmus, ktorý rozširuje a komprimuje skryté vrstvy siete, napodobňujúce zrod a smrť neurónov. Pritom dokázali, že algoritmus sa nielen prispôsobuje novému prostrediu (napr. novej doméne), ale si zachováva aj spomienky na predchádzajúce domény. Stáva sa tak významným krokom na ceste k vytvoreniu systémov umelej inteligencie, schopnej celoživotného učenia sa.
Vedcom sa tak darí do pokročilých systémov rozoznávania obrazu a spracovania prirodzeného jazyka implementovať prístupy a algoritmy, ktoré ľudský mozog už dávno dokonale ovláda. Poznatky z neurológie a psychológie tak pomôžu programátorom zdokonaliť UI.
Umelá inteligencia tohto typu je ako soľ potrebná aj pre autonómne autá. Tie sa potom budú môcť, podobne ako človek, zdokonaľovať v riešení dopravných situácií aj v takých prípadoch, ktoré ich programátori nenaučili. S tým rozdielom, že autonómne autá budú vedieť lepšie využívať kolektívne vedomie a získané skúsenosti odovzdávať aj ostatným.
Výskum prezentovali vedci z IBM Research na konferencii International Joint Conference for Artificial Intelligence (IJCAI), ktorá sa konala v auguste v austrálskom Melbourne.