Pozrite si
Spoločnosť Jigsaw, ktorú vlastni Alphabet, predstavila Assembler, bezplatný nástroj na overovanie pravosti fotografií a odhaľovanie tých falošných. Zatiaľ ho môžu využívať novinári a overovatelia faktov.
Množstvo dezinformácií už dávno prekročilo únosnú mieru. Dezinformačné kampane sú koordinované skupinami, ktoré potrebujú zmeniť politické, alebo ideologické vnímanie reality. Pokrok softvéru s AI umožňuje nasadzovať upravené obrázky, ktoré vhodne ilustrujú témy kampaní. Nástroj Assembler môže pomôcť s overovaním pravosti obrázkov.
Assembler vyvinula spoločnosť Jigsaw, ktorá sa systematicky venuje odhaľovaniu dezinformácií, predpovedá vznikajúce technologické hrozby a snaží sa obmedziť ich účinky. Obrázky sa dnes dajú ľahko upraviť v rôznych grafických editoroch, zmeny sú pre ľudské oko nepostrehnuteľné. Assembler takéto zmeny ľahko objaví, rovnako ako pokročilejšie formy manipulácie.
Dezinformácia dnes zahŕňa sofistikované a cielené kampane zamerané na ovplyvňovanie vplyvov, ktoré často začínajú vlády, s cieľom ovplyvniť spoločenské, hospodárske a vojenské udalosti na celom svete.
Jared Cohen, CEO Jigsaw
Novinári môžu vkladať snímky do Assemblera a overiť ich pravosť. Nástroj má sedem detektorov, každý z nich sa zameriava na špecifický typ techniky manipulácie s fotografiami. Ak sa zistí manipulácia s obrázkom, Assembler zvýrazní miesto, kde k nej pravdepodobne došlo.
Päť detektorov vyvinuli výskumníci z Kalifornskej univerzity, Marylandskej univerzity a Neapolskej univerzity. Ich modely dokážu zistiť anomálie farebných vzorov, skopírované oblasti obrázka, zmenu jasu, ale aj to, či bol na vytvorenie fotografie použitý viac ako jeden model fotoaparátu.
„Tieto detektory nedokážu úplne vyriešiť problém, ale predstavujú dôležitý nástroj na boj proti dezinformáciám,“ upozornila Luisa Verdoliva, profesorka na Neapolskej univerzite a hosťujúca vedecká pracovníčka Google AI.
Zvyšné dva detektory vyvinuli v Jigsawe. Jeden z nich má na starosti identifikovanie deep fakes, realistických obrázkov, ktoré boli pozmenené umelou inteligenciou. Druhý je trénovaný pomocou kombinovaných signálov z každého z jednotlivých detektorov, čo mu umožňuje analyzovať obraz pre viac druhov manipulácie súčasne. Pretože model súboru dokáže identifikovať viacero typov manipulácie s obrazom, výsledky sú v priemere presnejšie ako dokáže poskytnúť samotný detektor.
Produktový manažér Jigsaw, Santiago Andrigo, zdôraznil, že Assembler môže byť „najužitočnejší v situácii, keď novinár z veľkej spravodajskej organizácie dostane škandalóznu snímku a je pod tlakom na zverejnenie najnovšej správy.“ Assembler sa tiež môže použiť na overenie, či obrázok nemá vírus.
Dezinformáciám sa darí, ak ostanú nepovšimnuté. Práve vďaka spoločnostiam ako je Jigsaw môžeme odhaliť ich škodlivé pôsobenie a zabrániť ich vplyvu na spoločnosť.
Podľa šéfa Jigsaw, Jareda Cohena, je Assembler stále v začiatočnej fáze vývoja a zatiaľ je k dispozícii len vybraným spravodajským organizáciám (Agence France-Presse, Animal Politico, Code for Africa, Les Décodeurs du Monde, Rappler). Ani v budúcnosti sa nepredpokladá jeho sprístupnenie pre širšiu verejnosť.
Zdroj