Oddělení zaměřené na výzkum umělé inteligence u jednoho z předních výrobců počítačových procesorů Intel představilo velmi zajímavou technologii. Ve spolupráci s americkou Binghamton University implementovalo již existující program zvaný FakeCatcher tak, aby dokázal odhalit významně pozměněná videa.
Procesory z řady Xeon od společnosti Intel dokáží zpracovávat detekční algoritmy až v 72 vláknech souběžně a rozlišit s téměř stoprocentní přesností skutečné záběry od falešných.
Co je to Deepfake?
Takzvané Deepfakes („hluboké padělky“) využívají pokroku v jednom z odvětví umělé inteligence, které se nazývá hluboké učení. V digitálně upravených videích je obvykle pozměněn jeden nebo více obličejů a taktéž hlasů přítomných postav, a to na základě syntézy existujících nahrávek.
Deepfake - Bez vědomí - HBO • Zdroj: Živě.cz
Cílem je přesvědčit diváka, že daná postava skutečně udělala nebo řekla věc, kterou vidí na obrazovce. Obvykle s úmyslem zobrazeného člověka diskreditovat, vyvolat úžas, rozhořčení a konflikt.
Královna TikTokerka
Jedním z velmi známých příkladů je falešné poselství britské královny odvysílané na Vánoce roku 2020 na britské stanici Channel 4. Alžběta II. si na videu utahovala z ostatních členů královské rodiny a následně předvedla TikTok taneček.
„Technologie Deepfake je hrozivou ukázkou toho, jak se posouvá bojová linie v bitvě mezi pravdou a dezinformacemi. Letošní alternativní vánoční poselství, zdánlivě od jedné z nejznámějších a nejdůvěryhodnějších osob v zemi, je silnou připomínkou toho, že už nemůžeme věřit tomu, co vidíme na vlastní oči,“ vysvětloval ředitel vysílání Ian Katz, proč se rozhodli montáž s letos zesnulou panovnicí vytvořit.
Krev prozradí vše
Zatímco většina detektorů pozměněných obrázků a videí se zaměřuje na zkoumání toho, co je v obrazu „špatně“, Deepfake Detector na to jde úplně obráceně.
„Hledá autentické stopy, které se objevují ve skutečných videích, a zkoumá to, co z nás dělá lidi. Konkrétně jde o pixely ukazující tok krve lidským tělem. Když srdce pumpuje krev do žil, její barva se mění. Algoritmus podle dat sebraných z obličeje vytvoří prostorově-teplotní mapu a z ní posoudí, jestli je video skutečné, nebo falešné,“ vysvětluje firma Intel.
Laikem téměř nerozeznatelné
Dobře zpracovaná Deepfake videa je téměř nemožné na první pohled poznat a je v podstatě nemožné chtít po lidech, aby to dělali sami. Proto má nový nástroj sloužit zejména žurnalistům, tvůrcům obsahu, streamerům a podobným profesím. Veškeré materiály, které by ve svých zprávách či streamech využívali, by si měli před odvysíláním ověřit, aby nepomáhali (třeba i nevědomky) šířit nebezpečné dezinformace.
Videa „z války“ dělají starost českým vývojářům:
Principem Deepfake záběrů je proměnit původní materiál ve velmi vysokém rozlišení. Českému videohernímu studiu Bohemia Interactive, ve kterém vzniká vojenská série ArmA, ale aktuálně dělají starosti úplně jiné padělky. Virální videa, často sdílená na platformě Twitter jako střípky z války na Ukrajině, jsou totiž často rozostřené záběry ze hry Arma 3.
„Sice nás těší, že hra simuluje skutečný konflikt s takovou mírou realističnosti, určitě ale nemáme radost z toho, že ji lze zaměňovat za záběry ze skutečného boje a využívat jako válečnou propagandu,“ vysvětluje PR manažer studia Pavel Křižka.
Falešná videa z bitev lze prý rozeznat podle několika charakteristik. Patří mezi ně snížené rozlišení, klepající se kamera, chybějící zvuk, absence záběrů na pohybující se lidi, nerealistická výzbroj či částicové efekty nebo to, že se až na výjimky většina z domnělých bojů odehrává v noci.
