Pozrite si
Vyrobiť deepfake video je v súčastnosti oveľa jednoduchšie ako bolo donedávna možné. Svedčí o tom množstvo videí na YouTube, ktorých jediným cieľom je pobaviť divákov. Vo virtuálnom svete kolujú ďalšie tisícky videí, o ktorých bežní ľudia netušia, že sú falošné.
Tak ako bolo kedysi ľahké sfalšovať fotku a pridať krátky popis (napr. „Tisícky migrantov dobíjajú Prahu!, zdieľaj kým nezmažú“), dnes sa robí s videom a oveľa sofistikovanejšie.
Google uvoľnil databázu s 3 000 videami, ktoré vznikli vďaka technológii hĺbkového učenia. Práve vďaka tejto technológii je možné vytvárať modely, ktoré sú schopné syntetizovať hyperrealistické obrazy, reč, hudbu a najnovšie aj video. Hovorí sa, že všetko zlé je na niečo dobré, ale platí to aj opačne.
Deep learning sa začal využívať v množstve aplikácií, ktoré zlepšovali kvalitu života (zdravotníctvo, školstvo). Potom ho objavilo porno a napokon ľudia, ktorým vyhovuje šíriť klamstvá, propagandu, nedôveru a rozosievať nenávisť. Spojením pojmu deep learning a falzifikát (fake) vzniklo nové označenie deepfake.
Deepfake môže spôsobiť vážne problémy. Google už minulý rok uverejnil Zásady AI, kde sa zaväzuje vyvíjať osvedčené postupy umelej inteligencie na zabránenia jej zneužitia. V januári uvoľnil súbory údajov syntetickej reči slúžiace na vývoj výkonných detektorov falošných zvukov. Súbor údajov si stiahlo viac ako 150 výskumných a priemyselných organizácií, teraz je voľne k dispozícii verejnosti.
V utorok v spolupráci so spoločnosťou Jigsaw uvoľnil Google obrovskú databázu, ktorú vytvoril v spolupráci s platenými hercami pri nahrávaní stoviek videí. Následne z nich pomocou verejne dostupných metód generovania vytvoril tisíce deepfake.
Výsledné videá, skutočné a falošné, predstavujú náš príspevok, ktorý sme vytvorili s cieľom priamej podpory úsilia o detekciu deepfake.
Google AI Blog
Ako súčasť benchmarku FaceForensics je teraz tento súbor údajov k dispozícii bezplatne pre výskumnú komunitu na použitie pri vývoji metód identifikovania falošného videa.
Google začal bojovať proti týmto praktikám, ktoré môžu dezinformáciami zmeniť aj výsledky volieb, alebo zasiať medzi ľuďmi rasovú neznášanlivosť a nedôveru v systém. Zaujímavé však je, že sa o zvrátenie tohto nebezpečného trendu neusilujú v prvom rade poslanci a politici. Skeptik by si tak mohol v slabej chvíli pomyslieť, že im technológia deepfake pripadá ako zaujímavý nástroj na boj s oponentmi.
Zdroj