Deepfake: zábava nebo vážná hrozba?

Jedná se o pozměnění obličeje, kdy do jakéhokoliv videa lze – pomocí speciálního software – vložit obličej kohokoliv, kdo nás napadne. Podobným způsobem lze manipulovat s fotografiemi nebo zvukem. 

Deepfake zná většina z nás pravděpodobně jako humorná videa, kdy například tvář televizního reportéra nahradila tvář nějaké celebrity. Své o tom vědí například Jimmy Fallon, Tom Cruise, Nicolas Cage nebo Bill Hader (a je jich mnohem, mnohem více). Potud je to ještě – dejme tomu, jakž takž – v pořádku. Dalším stupněm (už podstatně vážnějším) bylo namíření Deepfake technologie do pornoprůmyslu, kdy na těla pornohereček “v akci” byly “namontovány” tváře známých celebrit a hereček. Tady už se jedná o bezprecedentní zásah jak do lidských, tak autorských práv. Třetím stupněm – a zde už můžeme bez nadsázky hovořit o vážném problému – je manipulace s tvářemi a výroky veřejně známých a v politice angažovaných vrcholných činitelů (viz proslulé Deppfakes s projevy amerických ex-prezidentů Baracka Obamy nebo Donalda Trumpa).    

:: Aj, ta podoba! Holt jsem celej Tom Hardy alias Mad Max z Fury road 🙂

Evoluce i revoluce 

Současné PC a především SW řešení již umožňují vysoký stupeň automatizace, díky němuž byl celý proces montáže “lidských tváří” – zejména v posledních letech – až neuvěřitelně zrychlen. Jasně, šlo to už dříve ale bylo to extrémně náročné – především časově (a tím i finančně). Operátor musel být současně velice zkušeným grafikem, videomakerem a editorem v jedné osobě. Dnes už na to existují dokonce i aplikace v mobilu, které si stáhnete a můžete ihned začít “Dípfejkovat” (viz. moje ukázky).

:: A zase já – tentokrát jako Peter Parker aka Spiderman… 

Každý nějak začínal… 

Vlastně se v principu až tak o úplnou novinku nejedná. Danou technologii využívá například filmový průmysl již dlouhou řadu let. Deepfake jako internetový fenomén vznikl teprve před cca třemi lety, kdy podobné klipy zaplavily internet. Hned na to se kolem toho zformovala komunita nadšenců, kterým šlo převážně o naplnění svých erotických fantazií. Výsledkem byly ještě lepší a realističtější výsledky v oblasti Deepfaakes. Diskuzní server Reddit.com se v tomto směru nejspíš dá označit za kolébku tohoto fenoménu. Zde se formovala velice silná skupina fanoušků a hybatelů Deepfakes. Někteří z uživatelů programovali, jiní zkoušeli a nastavovali parametry učení neuronové sítě, další měli na starost data (obrázky, videa – celebrit, hereček ale také aktérů z porno branže). Nicméně vlivem dalších událostí a zejména silné orientace právě na porno business samotní provozovatelé webu Reddit.com celou tuhle šarádu nakonec zatrhli (což je ve většině ohledech samozřejmě jen dobře!). 

:: MHA pro změnu jako Johnny Depp alias Kapitán Jack Sparrow ??? … 

Jak Deep fake funguje  

Je založen na AI (Umělé inteligenci), využívajíce prvky strojového učení a neuronových sítí. Nejsem specialista, takže se ani nebudu snažit nějak odborně přiblížit, jak celá technologie funguje. Pokusím se to laicky vysvětlit. Stručně řečeno, potřebujete sofistikovaný software, který “nakrmíte” daty. Jako výchozí bod máme například vlastní portrétní fotografii (čím kvalitnější, tím lepší). SW si důkladně “naskenuje” obličej – ať už váš nebo ten, který chcete použít v Deepfake montáži. Pomocí jemné sítě bodů si rozdělí dynamické a statické části. Tj. partie, které se nepohybují, nejsou až tak problematické. Horší je to s těmi, které se mění – typicky ústa a oči. Finta je v tom, že SW musí dokonale porovnat nový obličej (fakeový) a starý obličej (originál) – který bude následně vyměněn. Funguje to vlastně na stejném principu, jako například staré dobré klonovací razítko v kombinaci s režimem prolnutí (Photoshop, Lightroom a další foto editory). 

Samozřejmě to je ale celé trochu složitější. Nejde jen o to, nahradit obličej (tak to dobře funguje ve fotografii, nikoli u videa). Je potřeba věrně zachovat emoce – úsměv, zamračení, údiv atd. A tady už bychom si s běžnými nástroji ve Photoshou nevystačili. Zde již nastupuje A.I. (Umělá inteligence), která se rychle učí “studováním” konkrétních tváří a jejich mimiky. Pokud by to měl realizovat živý operátor, znamenalo by to shlédnout desítky (ne-li stovky) hodin videa jedné konkrétní tváře a studovat tisíce fotografií. SW potažmo aplikace již toto zvládne za pár sekund nebo minut (záleží na náročnosti). 

:: Martin Hájek nebo Vin Diesel? … Tak už tomu fakt přestávám rozumět… 

Limity a nevýhody

Deepfake si perfektně poradí s víceméně statickými nebo nepříliš “divokými” scénami. Ideálně když se mluvící hlava dívá klidně do objektivu a moc s sebou nemele. Navíc vše je snímáno rozumným objektivem (s ohniskem cca 24-75mm) a dobře nasvíceno (světlo měkké, přímé nebo lehce z boku, bez ostrých stínů). Na druhou stranu Deepfake není ve své iluzi zdaleka dokonalý a má stále co dohánět. Především u specifických typů scény. Jedná se například o prudké a výrazné pohyby hlavy. Dále si zatím Deepfake neumí příliš dobře poradit s dlouhými vlasy a obecně pokrývkami hlavy (čepice, šátky) ale často se “pere” také s brýlemi. To samé platí o nestandardních ohniscích a úhlech záběru. Kolmé úhly, širokoúhlé záběry obličeje (které perspektivně hodně zkreslují, víme), to všechno jsou situace, kde výsledek není moc přesvědčivý. A to je vlastně i dobře. 

:: Tady ta podoba moc dobrá není. Nepoznal bych se tu a ani moje děti mě nepoznali!  

Co na to právo 

Jednoznačným problémem je, že Deepfakes jasně porušují autorská práva. Zajímavé ovšem je, že právo jako takové, nedokáže na tento typ “extrakce” zaujmout jasný postoj. Práva zde porušována jsou – autorská i lidská. Jenže čí? a jakým způsobem? Právníci vlastně neví, jak v takových případech postupovat. Existují sice relevantní paragrafy (zásah do soukromí, zneužití osobních údajů), nicméně Deepfakes zkrátka nezapadají do žádné škatulky. Zatím. 

:: Indiana Jones neboli Harrison Ford je prostě nenapodobitelnej! Sorry, Harry! 😉  

Shrnutí

Deepfakes jsou zábavné – jsou-li použity vkusně a s ohledem na všechny zúčastněné. Jinými slovy, pokud si svůj obličej dosadíte do role filmových hrdinů (viz ukázky zde) a výsledek si necháte čistě pro sebe a své nejbližší – v pořádku. Pokud ale zajdete dál a začnete Deepfake využívat pro manipulaci, pak už to v pohodě není! V současnosti zatím jdou falešná videa většinou odhalit. Už jen tím, když se zaměříte na výše zmíněné limity. Zde již trochu cvičené oko dokáže rozpoznat Deepfake oproti originálu. Zároveň jsou výsledky jasně patrné při vyšším rozlišením, kde jsou fakeové tváře až nepřirozeně vyhlazené (vyžehlené). Nicméně SW i Appky se zlepšují a některé podávají opravdu až mrazivě přesné (realistické) výsledky. Takže pozor na to! Musíme být opatrnější a především podezřívavější k tomu, co vidíme. Je to určitě zajímavá technologie, bohužel též velmi snadno zneužitelná. Možno vyzkoušet – Fake App, ReFace App atd…

:: Ovšem tady jsem to celej já před 25 lety (což sem byl ještě ucho – jako tady Žid Zákon)