Deepfake je technologie založená na umělé inteligenci (AI = Artificial Intelligence), která se používá k produkci nebo změně videoobsahu, takže představuje něco, co se ve skutečnosti nestalo. Termín je pojmenován podle uživatele fóra Reddit, známého pod přezdívkou „deepfakes“, který v prosinci roku 2017 používal technologii hlubokého učení k úpravám tváří celebrit na lidi v pornografických videoklipech. Termín, který se vztahuje jak na technologie, tak na takto vytvořená videa, je kombinací anglických názvů hlubokého učení a falešného obsahu.
Falešné video je vytvořeno pomocí dvou konkurenčních systémů AI – jeden se nazývá diskriminátor a druhý generátor. Generátor v zásadě vytvoří falešný videoklip a poté požádá diskriminátor, aby určil, zda je klip skutečný nebo falešný. Pokaždé, když diskriminátor přesně identifikuje videoklip jako falešný, dává generátoroví vědět o tom, co dělat při vytváření upravené verze klipu.
Generátor a diskriminátor dohromady vytvoří tzv. generative adversial networks (GAN). První krokem pro vznik GAN je identifikace požadovaného výstupu a vytvoření tréninkového datového souboru pro generátor. Jakmile generátor začne vytvářet kvalitativně přijatelnou úroveň výstupu, poskytne výstupní videoklip diskriminátoru k ohodnocení. Přitom s tím, jak se generátor zlepšuje v tvorbě kvalitnějších falešných videoklipů, i diskriminátor se zlepšuje v detekování falešných videí, což ve výsledku vede k precizním výsledkům.
Donedávna bylo obtížné výrazným způsobem změnit obsah videa. Videa jsou však tvořena pomocí umělé inteligence, což do značné míry celý proces zjednodušuje a urychluje. Pro tvorbu deepfaků nejsou potřeba odborné znalosti, stačí umělé inteligence předložit dostatek vstupních dat a o zbytek se člověk nemusí starat. To bohužel znamená, že téměř každý může vytvořit falešné video, které bude k nerozeznání od reálného videoklipu, čímž může vytvářet falešné poplašné zprávy, lživou reklamu nebo někoho poškodit. Problém je, že lidé buď budou vytvořeným videím důvěřovat nebo naopak nebudou důvěřovat ničemu a nebudou si moct být jistí, co se na internetu dozvěděli. Ne, že by nyní důvěřovat pravosti všeho na internetu mohli, ale deepfake je další způsob, jak ještě více uživatele znejistět.
