Zpět na webový portál

Technologie se posouvají neustále kupředu. Bohužel nejenom směrem, který je pro společnost prospěšný. I tvorba manipulativního obsahu jde s dobou, proto dnes čelíme novému fenoménu, takzvaným deep fakes. Obecně se tak označují manipulované fotografie, videa či zvuky, které se tváří jako opravdové. Konkrétně v případě videí dojde k nahrazení osoby někým jiným. Nejčastěji jde o výměnu tváře, rtů nebo těla. 

Nedávno se jako virál šířily falešné deep fake klipy s hercem Tomem Cruisem (@deeptomcruise na TikToku). Jsou až překvapivě přesvědčivé. 

Jak deep fake videa vznikají

Vytvořit deepfake video je poměrně náročné. Jsou vyráběna za využití speciálních sofistikovaných programů, které pomocí nástrojů umělé inteligence, jako je hluboké a strojové učení, dokáží napodobit modely lidského chování. Počítač nashromáždí videa dané osoby, ze kterých dokáže odezírat a naučit se, jak se chová, tváří, jak vystupuje. Tuto znalost poté aplikuje při tvorbě deep fake videa, které následně působí velmi přesvědčivě a realisticky.

První deep fake videa se začala objevovat na sociální síti Reddit. Jednalo se o falešné uniklé soukroméí nahrávky různých celebrit, poprvé herečky Gal Gadot. Nebyla ale reálná, vytvořil je počítač. Později se tato technologie začala objevovat i v jiných oblastech a existují i první ukázky deep fake videí například z oblasti politiky.

Technologie v této oblasti nejsou dokonalé, proto lze velké množství deep faků poměrně snadno odhalit. Pokud narazíte na podezřelé video, položte si následující otázky:

✅ Mrká daná osoba? Nemrkající „figuríny“ jsou nejčastějším nedostatkem deep fake videí.

✅ Má osoba emoce? Videa stále nejsou dokonalá a tak se může zdát, že daná osoba nejenom že neprojevuje žádné emoce, ale chybí jí i základní mimika ve tváři.

✅ Co vousy a vlasy? Vypadají vlasy a vousy přirozeně? Hýbou se s pohybem obličeje?

Vývojáři těchto technologií jsou si samozřejmě nedostatků vědomi, dá se tedy očekávat, že deep fake videa budou stále dokonalejší a hůře rozpoznatelná.

Proč jsou deep fake videa nebezpečná?

Problém deep fake tkví v tom, že jako lidé máme stále poměrně velkou důvěru v to, co vidíme na videu. Už jsme si zvykli, že ne každý text je pravdivý. Dokonce i u fotek víme, jak jednoduchá je jejich úprava. U videí jsme ale nadmíru důvěřiví. Jak si přebrat to, že někoho sice jasně na nahrávce vidíme mluvit a gestikulovat, ale ve skutečnosti nic takového neřekl?

Největší obavy vzbuzuje deep fake technologie zejména v předvolebních obdobích. Zejména posledních pár dní před volbami je informací neuvěřitelné množství a času málo. Pokud by se deep fake video objevilo v takto napjatém období, mohlo by některému z kandidátů opravdu uškodit.  Nejprve by se nemuselo stihnout prokázat, že je zmanipulované. Zadruhé, korekce falešných informací obecně se už často nedostanou k tolika lidem, protože už nejsou zdaleka tak šokující a zajímavé. Podobně mohou deep fakes narušit i diplomatické vztahy nebo bezpečnost států. Zároveň mohou mít ale i pozitivní využití, například ve vzdělávání nebo umění.

Co s tím?

Obecně také mohou (nejenom) deep fake videa podobně jako fake news šířit strach a nenávist a v krajních případech rozdělovat společnost. Tento boj ale samozřejmě není prohraný. Už teď vyvíjí technologické společnosti programy, které by dokázaly deep fake videa odhalit. Na jejich ověřování lze využít třeba nástroj InVID. Aplikaci pro rozpoznávání upravených videí vytvořil i Microsoft.


Falešný projev Miloše Zemana, jehož autorem je známý internetový umělec vystupující pod nickem Ctrl Shift Face.


Pozitivní deep fake 

Je důležité dodat, že ne všichni tvůrci deep fake videí je vytvářejí s nekalými úmysly. Vznikají například různá zábavná či výchovná, která mají na problematiku upozornit. Jako příklad můžeme uvést trailer seriálu Bez vědomí. Uplatnění mohou v budoucnu najít třeba ve zdravotnictví nebo v umění.

Podívejme se na jeden pozitivní příklad využití. 
V muzeu Salvadora Dalího ve městě St. Petersburg na Floridě byla již před časem otevřena  expozice s názvem Dalí Lives. Ta pomocí kombinace pokročilé umělé inteligence přivedla Dálího opět částečně k životu.

Návštěvníky v muzeu přivítá zvláštní kiosek. Po spuštění tlačítka se ale začnou dít věci. Zobrazí se totiž legendární malíř Salvador Dalí v životní velikosti. To všechno desítky let po své smrti. Lidé připouštějí, že je to docela mrazivý zážitek, vše totiž vypadá naprosto dokonale. Jako by byl umělec zavřený za skleněnou deskou a stačí jí jen odstranit a Salvador je rázem znovu na světě.

Tak je to Dalí nebo ne? Samozřejmě, že není - je to klasický příklad deep fake, o kterých si můžete více přečíst pod tímto odkazem. Na obrazovce uvidíte virtuální kopii malíře. Ta díky strojovému učení čerpajícím z tisíců hodin dostupných materiálů slavného umělce vede s návštěvníky konverzaci. K tomu ještě přesně reprodukuje jeho styl mluvy, gesta či styl mluvy. Zaujmou i maličkosti, jako je charakteristický pohyb jeho obočí a očí.

Toto deep fake vzniklo díky umělé inteligenci a strojovému učení. Chytré algoritmy čerpaly z více než 6 tisíc dostupných snímků a záběrů Dalího. Odborníci pak vybrali jeho citáty. Gesta se následně naučil živý herec, kterému byla přidána pomocí algoritmů tvář umělce.

Návštěvníky čeká i jeden hodně zvláštní zážitek, které jej posouvá do dnešní doby. Dalí se totiž lidí ptá, zda se s ním chtějí vyfotit. Pokud řeknou, že ano, umělec vezme do ruky mobilní telefon a s návštěvníky si pořídí společnou selfie.

Deep fake má ve společnosti spíše negativní konotace. Je proto dobré vidět, že může mít i pozitivní využití. Brzo se možná dočkáme deep fake koncertů Elvise Presleyho, Curta Cobaina či Amy Winehouse. Nebo už je to na vás moc? Uvidíme, co nám budoucí léta přinesou.

Více se o tvorbě deep fake Dalího dozvíte ve videu: 

Podklady ke stažení

Videa