Voltar em dezembro, o hobby desagradável de um usuário Reddit com o nome de deepfakes se tornou um novo ponto central do debate sobre inteligência artificial, especificamente em torno da nova capacidade de enfrentar celebridades e estrelas pornô. Usando software, o deepfakes conseguiu pegar no rosto de actrizes famosas e trocá-las com as de actrizes porno, deixando-o viver uma fantasia de ver pessoas famosas a fazer sexo. Agora, apenas dois meses depois, aplicações fáceis de usar surgiram com a capacidade de realizar esta edição em tempo real com ainda mais facilidade, de acordo com a Motherboard, que também relatou pela primeira vez sobre deepfakes no final do ano passado.

Obrigado a técnicas de treino de IA como a aprendizagem de máquinas, dezenas de fotografias podem ser introduzidas num algoritmo que cria máscaras humanas convincentes para substituir os rostos de qualquer pessoa em vídeo, tudo isto usando dados semelhantes e deixando o software treinar-se a si mesmo para melhorar ao longo do tempo. Neste caso, os usuários estão colocando atrizes famosas em filmes para adultos já existentes. De acordo com deepfakes, isto exigiu algum extenso know-how em informática. Mas o Motherboard relata que um usuário da crescente comunidade de troca de rostos de celebridades pornográficas criou um aplicativo amigável que basicamente qualquer um pode usar.

Estes usuários anônimos da internet estão se reunindo em um deepfakes dedicado subreddit criado em dezembro, que já acumulou mais de 15.000 assinantes. (É muito NSFW.) O termo “deepfakes” também se tornou um stand-in para estas trocas de rostos assistidos por IA. Quanto ao novo aplicativo de fácil utilização, é conhecido como FakeApp, e foi criado usando o software original do deepfakes e aperfeiçoando-o. Um tutorial exaustivo com links para download postado há 16 dias atrás está agora preso ao topo do subreddit. “Este aplicativo tem o objetivo de permitir que os usuários passem por todo o pipeline de criação do deepfake – criando dados de treinamento, treinando um modelo e criando fakes com esse modelo – sem a necessidade de instalar Python e outras dependências ou código parse”, explica o criador, que passa pelo handle online “deepfakeapp”

“Acho que a versão atual do aplicativo é um bom começo, mas espero racionalizá-lo ainda mais nos próximos dias e semanas”, diz o Redditor por trás do FakeApp à Motherboard. “Eventualmente, quero melhorá-lo ao ponto de os futuros usuários poderem simplesmente selecionar um vídeo em seu computador, baixar uma rede neural correlacionada a um determinado rosto de uma biblioteca disponível publicamente, e trocar o vídeo com um rosto diferente com o apertar de um botão”

É fácil apontar o dedo para a crescente comunidade de deepfakes como outliers com intenções repulsivas, mas esses usuários estão tomando suas inspirações de Hollywood. Cada vez mais, os filmes estão usando softwares para renderizar digitalmente rostos em vários estágios de envelhecimento, regredindo os rostos de atores mais velhos por décadas ou mesmo trazendo as pessoas de volta à vida na tela prateada. Outro membro da comunidade usou a tecnologia para tentar replicar um exemplo disso: a cena de Rogue One na qual Carry Fisher’s Princess Leia aparece como seu eu mais jovem. E os resultados são espantosos, mostrando um resultado quase idêntico quando se compara o CGI de Hollywood a uma falsificação.

As implicações desta tecnologia são imensas. Não são apenas os efeitos que isso pode ter sobre celebridades e outras figuras públicas que já estão sujeitas a todas as formas de falsificações e embustes manipuladores. É também o que a troca de rostos assistida por IA pode significar para a política, o jornalismo e o crime. Supomos, também, que a troca de rostos é o fim do jogo, mas é claramente apenas o começo. Os avanços da IA efetivamente abriram uma nova, mais poderosa e sofisticada forma do Adobe Photoshop para qualquer tipo de mídia, seja foto ou vídeo.

Não há como dizer quais objetos, ações ou cenas podem ser fabricadas com dados fotográficos e de vídeo suficientes para continuar. A linha entre real e falso só vai ficar mais desfocada. Neste momento, existem aplicativos que podem fazer qualquer um sorrir em uma foto, e as redes neurais já são capazes de gerar fotos orgânicas de paisagens, animais e arquitetura. Acontece que neste momento, sendo a internet o que é, a troca de rostos assistida por IA está sendo usada para um fim particularmente perturbador.