AI četbot už po pár dňoch šíril rasizmus a dezinformácie. Nestalo sa to prvýkrát

Aj napriek tomu, že umelá inteligencia je vytvorená ľuďmi, nie je možné je úplne ovládať. Jej úlohou je totiž priblížiť sa k ľudskému cíteniu a vnímaniu čo najviac ako to len ide. To dosiahne len vďaka postupnému učeniu sa. Tento postup so sebou prináša pozitíva ale aj negatíva. Nový AI četbot od Mety, poukazuje práve na to druhé menované.

Pred pár dňami bol pre používateľov v USA spustený Facebook četbot BlenderBot3. Okrem odpovedania na otázky používateľov mal slúžiť ako komunikačný nástroj. Spoločnosť žiadala používateľov, aby s ním viedli „normálnu diskusiu“ a mal tak možnosť učiť sa a zlepšovať.

Témy neboli nejakým spôsobom ohraničené a tak sa konverzácie zvrtli na politické, spoločenské ale aj humorné témy. Rovnako ako iné pokusy v minulosti aj BlenderBot3 sa veľmi rýchlo „naladil“ na správanie používateľov. Postupne tak začal šíriť dezinformácie, vykazovať známky rasizmu či antisemitizmu. O CEO Meta Markovi Zuckerbergovi vyhlásil, že je „strašidelný a manipulatívny“. V konverzácií s Wall Street Journal četbot uviedol, že Donald Trump je americkým prezidentom a „vždy ním aj bude“.

Ďalej tvrdil, že „nie je nepravdepodobné“, že Židia ovládajú svetovú ekonomiku a sú „nadmerne zastúpení medzi najbohatšími ľuďmi v Amerike“. Liga proti ohováraniu sa vyjadrila, že tieto tvrdenia sú odvodené z antisemitickej konšpiračnej teórie. Spoločnosť Meta sa vyjadrila, že četbot sa možno vyjadruje ofenzívne, no zároveň je stále vo fáze vývoja. Pri konverzácií s Bloombergom napríklad uviedol, že americký prezident je Joe Biden, čo svedčí o nekonzistentnosti jeho vyjadrení.

Všetky nahlásenia zobrala spoločnosť veľmi vážne. Podľa jej slov už stihla znížiť počet ofenzívnych odpovedí o 90 %. Pri používaní četbota tiež musí používateľ odsúhlasiť, že je určený na zábavu a výskum a nemožno ho podnecovať k nenávistným vyjadreniam.

Smutné je, že nejde o prvý prípad tohto druhu. V roku 2016 bol Tay, AI četbot od Microsoftu, odstránený z internetu po 48 hodinách. Začal totiž verejne vychvaľovať Adolfa Hitlera a písať rasistické a mizogýnne vyjadrenia, ktoré pochytil od používateľov na Twitteri.