V prosinci se nechutný koníček uživatele Redditu jménem deepfakes stal novým středobodem debat o umělé inteligenci, konkrétně o nově objevené schopnosti vyměňovat tváře celebrit a pornohvězd. Pomocí softwaru dokázal deepfakes vzít obličeje slavných hereček a vyměnit je za obličeje pornohereček, což mu umožnilo prožít fantazii o sledování slavných lidí při sexu. Nyní, o pouhé dva měsíce později, vyrostly snadno použitelné aplikace se schopností provádět tuto úpravu v reálném čase ještě snadněji, uvádí server Motherboard, který o deepfakes také poprvé informoval koncem loňského roku.
Díky tréninkovým technikám umělé inteligence, jako je strojové učení, lze do algoritmu, který vytváří přesvědčivé lidské masky nahrazující obličeje kohokoli na videu, vložit desítky fotografií, a to vše pomocí údajů o vzhledu a nechat software, aby se časem sám trénoval a zlepšoval. V tomto případě uživatelé vkládají slavné herečky do existujících filmů pro dospělé. Podle společnosti deepfakes to vyžadovalo rozsáhlé know-how v oblasti počítačových věd. Motherboard však uvádí, že jeden z uživatelů rozvíjející se komunity pro výměnu tváří pornografických celebrit vytvořil uživatelsky přívětivou aplikaci, kterou může používat v podstatě kdokoli.
Tito anonymní uživatelé internetu se sdružují na specializovaném subredditu deepfakes vytvořeném již v prosinci, který nyní nashromáždil více než 15 000 odběratelů. (Je velmi NSFW.) Termín „deepfakes“ se stal také zkratkou pro tyto výměny obličejů za pomoci umělé inteligence. Pokud jde o novou uživatelsky přívětivou aplikaci, je známá pod názvem FakeApp a vznikla použitím původního softwaru deepfakes a jeho vylepšením. Vyčerpávající návod s odkazy ke stažení zveřejněný před 16 dny je nyní připnutý na začátku subredditu. „Tato aplikace má uživatelům umožnit projít celou pipeline tvorby deepfake – vytvoření tréninkových dat, natrénování modelu a vytvoření padělků s tímto modelem – bez nutnosti instalovat Python a další závislosti nebo analyzovat kód,“ vysvětluje tvůrce, který na internetu vystupuje pod přezdívkou „deepfakeapp.“
„Myslím, že současná verze aplikace je dobrým začátkem, ale doufám, že ji v příštích dnech a týdnech ještě více zefektivním,“ říká pro Motherboard redditor, který za FakeApp stojí. „Nakonec ji chci vylepšit do té míry, aby si potenciální uživatelé mohli jednoduše vybrat video na svém počítači, stáhnout si neuronovou síť korelovanou s určitým obličejem z veřejně dostupné knihovny a stisknutím jediného tlačítka vyměnit video za jiný obličej.“
Je snadné ukázat prstem na rostoucí komunitu deepfakes jako na vyvrhele s odpudivými úmysly, ale tito uživatelé si berou inspiraci z Hollywoodu. Ve filmech se stále častěji používá software, který digitálně vykresluje obličeje v různých fázích stárnutí, regresuje tváře starších herců o desítky let nebo dokonce oživuje lidi na stříbrném plátně. Jiný člen komunity se pomocí této technologie pokusil zreplikovat jeden takový případ: scénu z filmu Rogue One, v níž se princezna Leia v podání Carry Fisherové objeví jako své mladší já. A výsledky jsou ohromující – při porovnání hollywoodského CGI a deepfake se ukázal téměř identický výsledek.
Důsledky této technologie jsou obrovské. Nejde jen o dopady, které by to mohlo mít na celebrity a další veřejné osoby, které jsou již nyní vystaveny všemožným manipulativním padělkům a mystifikacím. Jde také o to, co by výměna tváří za pomoci umělé inteligence mohla znamenat pro politiku, žurnalistiku a kriminalitu. Předpokládáme také, že výměna obličejů je konečnou fází hry, ale je to zjevně teprve začátek. Pokrok umělé inteligence fakticky předznamenal novou, výkonnější a sofistikovanější formu Adobe Photoshopu pro jakýkoli typ médií, ať už jde o fotografie nebo video.
Nikdo neví, jaké objekty, akce nebo scény by mohly být vyfabrikovány, pokud bude k dispozici dostatek fotografických a video dat. Hranice mezi skutečným a falešným se bude jen více rozostřovat. Již nyní existují aplikace, které dokáží na fotografii vykouzlit úsměv kohokoli, a neuronové sítě jsou již schopny generovat organické fotografie krajiny, zvířat a architektury. Jen se stalo, že právě teď, když je internet takový, jaký je, se výměna obličejů za pomoci umělé inteligence používá k obzvlášť znepokojivým účelům.