Bez detektorov deepfake sa už zrejme nezaobídeme. Stanú sa súčasťou video apiek?

Z absurdných videí generovaných umelou inteligenciou sa ešte nedávno celý svet smial. Dnes už mnohé z nich nielen nerozpoznáte od reality, no generovať ich je už možné aj v reálnom čase, napríklad aj počas videohovorov.

Kde už voľné oko a vlastný úsudok nestačí, nastupuje do hry softvérová detekcia. Takú vyvinul aj startup Reality Defender a integrovať ho dokáže do bežných videokonferenčných aplikácií.

Rozvučí sa vám smartfón so žiadosťou o videohovor od blízkej osoby, kolegu či šéfa a skôr než si uvedomíte, že vám na tom niečo nesedí, osobe na druhej strane už diktujete citlivé údaje alebo posielate financie, pretože potrebuje pomoc alebo od vás žiada vykonanie nejakej prioritnej úlohy. Po zložení vám skôr či neskôr napokon dôjde, že osoba, s ktorou ste si mysleli, že ste absolvovali videohovor, o ničom netuší a vy ste sa práve stali ďalšou obeťou deepfake podvodu.

Počet takýchto prípadov najmä od minulého roka celosvetovo stúpa, v prvom kvartáli 2024 sa jednalo o ich medziročný nárast na úrovni 33,3 %. Agentúra Deloitte očakáva, že generatívna umelá inteligencia sa len v Spojených štátoch do roku 2027 podpíše pod podvody v celkovom objeme 40 miliárd dolárov. Podľa prieskumu cieleného na finančníkov, sa už 43 % z nich stalo obeťou deepfake podvodu. Zároveň až 87 % z nich však priznáva, že ak by ich finančný alebo generálny riaditeľ cez videohovor požiadal o vykonanie transakcie, urobili by to.

Z dôvodu zvyšujúcej sa kvality v reálnom čase generovaných deepfake videí sa už skrátka nie je možné plne spoliehať na to, že ich jednoducho rozpoznáte voľným okom. „Je to len otázka niekoľkých mesiacov, kedy začneme vidieť explóziu deepfake videí, podvodov robených tvárov-v-tvár“, myslí si aj Ben Colman, generálny riaditeľ a spoluzakladateľ startupu Reality Defender. Jeho spoločnosť sa špecializuje na detekciu tvorby umelej inteligencie, najnovšie aj v reálnom čase pri videách.

Detektor deepfake videí v tomto prípade pôsobí ako doplnok do aplikácií pre uskutočňovanie videohovorov, aktuálne primárne Zoom. V nich sa k hovorov pripája ako ďalší účastník, ktorý neustále analyzuje videá všetkých ostatných účastníkov hovoru. Prostredníctvom bočného panela môže používateľ vidieť živú kontrolu a v prípade pozitívnej detekcie aj percentuálne vyjadrenie, na koľko si je model istý, že konkrétny používateľ zasiela do videohovoru video generované umelou inteligenciou.

Aby bola detekcia čo najpresnejšia, model pracuje s videami v pôvodnom rozlíšení so surovým obrazom, aký dokáže od používaného videokonferenčného softvéru získať. Doplnok sa dokáže pripojiť ako účastník (bot) aj k viacerým stretnutiam súčasne a priebežne tak napríklad kontrolovať aktuálne prebiehajúce videohovory vo firme.

K podpore aplikácie Zoom sa má časom pridať aj podpora ostatných populárnych videokonferenčných platforiem. Počkať si okrem toho bude potrebné aj na vydanie verejnej verzie. Doplnok je totiž aktuálne dostupný len vo forme predbežného prístupu pre vážnych záujemcov. Ak medzi nich patríte aj vy, môžete o prístup požiadať prostredníctvom formulára.