I december blev en Reddit-användares osmakliga hobby, deepfakes, en ny huvudpunkt i debatten om artificiell intelligens, särskilt när det gäller den nya förmågan att byta ansikten på kändisar och porrstjärnor. Med hjälp av mjukvara kunde deepfakes ta ansiktet av kända skådespelerskor och byta ut dem mot porrskådespelerskor, så att han kunde leva ut en fantasi om att se kända personer ha sex. Nu, bara två månader senare, har det dykt upp lättanvända program med möjlighet att utföra denna redigering i realtid med ännu större lätthet, enligt Motherboard, som också först rapporterade om deepfakes i slutet av förra året.
Tack vare AI-träningstekniker som maskininlärning kan mängder av fotografier matas in i en algoritm som skapar övertygande mänskliga masker för att ersätta ansiktena på vem som helst på video, allt genom att använda data om likadana personer och låta programvaran träna sig själv för att bli bättre över tid. I det här fallet sätter användarna in kända skådespelerskor i befintliga vuxenfilmer. Enligt deepfakes krävde detta en del omfattande datavetenskapliga kunskaper. Men Motherboard rapporterar att en användare i den spirande gemenskapen av pornografiska kändisars ansiktsbyten har skapat en användarvänlig app som i princip vem som helst kan använda.
Dessa anonyma internetanvändare samlas på en dedikerad subreddit deepfakes som skapades i december, och som nu har samlat mer än 15 000 prenumeranter. (Termen ”deepfakes” har också blivit en beteckning för dessa AI-assisterade ansiktsbyten. När det gäller den nya användarvänliga appen är den känd som FakeApp, och den skapades genom att använda deepfakes ursprungliga programvara och förbättra den. En uttömmande handledning med nedladdningslänkar som postades för 16 dagar sedan är nu fastlåst högst upp i subreddit. ”Den här appen är tänkt att låta användarna gå igenom hela pipelinen för skapande av deepfake – skapa träningsdata, träna en modell och skapa förfalskningar med den modellen – utan att behöva installera Python och andra beroenden eller analysera kod”, förklarar skaparen, som går under onlinehanteringen ”deepfakeapp.”
”Jag tycker att den nuvarande versionen av appen är en bra start, men jag hoppas kunna effektivisera den ännu mer under de kommande dagarna och veckorna”, säger Redditor bakom FakeApp till Motherboard. ”Så småningom vill jag förbättra den så mycket att potentiella användare helt enkelt kan välja en video på sin dator, ladda ner ett neuralt nätverk som är korrelerat till ett visst ansikte från ett offentligt tillgängligt bibliotek och byta ut videon mot ett annat ansikte genom att trycka på en knapp.”
Det är lätt att peka finger åt deepfakes växande community som utbrytargrupper med motbjudande avsikter, men dessa användare hämtar sin inspiration från Hollywood. Filmer använder allt oftare programvara för att digitalt återge ansikten i olika stadier av åldrande, förvandla äldre skådespelares ansikten med flera decennier eller till och med väcka människor till liv igen på vita duken. En annan medlem av gemenskapen använde tekniken för att försöka replikera ett exempel på detta: scenen från Rogue One där Carry Fishers prinsessan Leia dyker upp som sitt yngre jag. Och resultaten är häpnadsväckande och visar ett nästan identiskt resultat när man jämför Hollywoods CGI med en deepfake.
Den här teknikens konsekvenser är enorma. Det är inte bara effekterna detta kan få på kändisar och andra offentliga personer som redan utsätts för alla typer av manipulativa förfalskningar och hoaxes. Det handlar också om vad AI-assisterad face swapping skulle kunna innebära för politik, journalistik och brottslighet. Vi antar också att face swapping är slutspelet, men det är uppenbarligen bara början. AI:s framsteg har i praktiken lett till en ny, mer kraftfull och sofistikerad form av Adobe Photoshop för alla typer av medier, oavsett om det är foto eller video.
Det går inte att säga vilka objekt, handlingar eller scener som kan fabriceras med tillräckligt med foto- och videodata att gå på. Gränsen mellan verkligt och falskt kommer bara att bli mer suddig. Just nu finns det appar som kan få vem som helst att le på ett foto, och neurala nätverk kan redan generera organiska foton av landskap, djur och arkitektur. Det råkar bara vara så att just nu, när internet är vad det är, används AI-assisterad face swapping i ett särskilt oroväckande syfte.