En décembre, le passe-temps peu recommandable d’un utilisateur de Reddit du nom de deepfakes est devenu une nouvelle pièce maîtresse du débat sur l’intelligence artificielle, plus précisément autour de la nouvelle capacité à échanger des visages de célébrités et de stars du porno. À l’aide d’un logiciel, Deepfakes était capable de prendre le visage d’actrices célèbres et de le remplacer par celui d’actrices pornographiques, lui permettant ainsi de vivre son fantasme de regarder des personnes célèbres faire l’amour. Aujourd’hui, à peine deux mois plus tard, des applications faciles à utiliser ont fleuri avec la possibilité d’effectuer ce montage en temps réel avec encore plus de facilité, selon Motherboard, qui a également fait un premier rapport sur les deepfakes à la fin de l’année dernière.

Grâce à des techniques d’entraînement de l’IA comme l’apprentissage automatique, des dizaines de photographies peuvent être introduites dans un algorithme qui crée des masques humains convaincants pour remplacer les visages de n’importe qui sur une vidéo, le tout en utilisant des données de ressemblance et en laissant le logiciel s’entraîner pour s’améliorer au fil du temps. Dans ce cas, les utilisateurs mettent des actrices célèbres dans des films pour adultes existants. D’après Deepfakes, cela a nécessité un grand savoir-faire en informatique. Mais Motherboard rapporte qu’un utilisateur de la communauté florissante de l’échange de visages de célébrités pornographiques a créé une application conviviale que fondamentalement tout le monde peut utiliser.

Ces internautes anonymes se rassemblent sur un subreddit dédié deepfakes créé en décembre dernier, qui a maintenant amassé plus de 15 000 abonnés. (Le terme « deepfakes » est également devenu un synonyme de ces échanges de visages assistés par l’IA. Quant à la nouvelle application conviviale, elle s’appelle FakeApp et a été créée en utilisant le logiciel original de deepfakes et en l’améliorant. Un tutoriel exhaustif avec des liens de téléchargement posté il y a 16 jours est maintenant épinglé en haut du subreddit. « Cette application est destinée à permettre aux utilisateurs de passer par le pipeline complet de création de deepfake – création de données d’entraînement, entraînement d’un modèle et création de fakes avec ce modèle – sans avoir besoin d’installer Python et d’autres dépendances ou d’analyser le code », explique le créateur, qui se présente sous le pseudonyme en ligne « deepfakeapp. »

« Je pense que la version actuelle de l’application est un bon début, mais j’espère la rationaliser encore plus dans les jours et les semaines à venir », explique le Redditor derrière FakeApp à Motherboard. « À terme, je veux l’améliorer au point que les utilisateurs potentiels puissent simplement sélectionner une vidéo sur leur ordinateur, télécharger un réseau neuronal corrélé à un certain visage à partir d’une bibliothèque disponible publiquement, et échanger la vidéo avec un visage différent en appuyant sur un bouton. »

Il est facile de pointer du doigt la communauté croissante des deepfakes comme des aberrations aux intentions répugnantes, mais ces utilisateurs s’inspirent d’Hollywood. De plus en plus, les films utilisent des logiciels pour rendre numériquement les visages à différents stades de vieillissement, faisant régresser les visages des acteurs plus âgés de plusieurs décennies ou ramenant même les gens à la vie sur le grand écran. Un autre membre de la communauté a utilisé cette technologie pour tenter de reproduire un exemple de ce phénomène : la scène de Rogue One dans laquelle la princesse Leia, incarnée par Carry Fisher, apparaît dans sa jeunesse. Et les résultats sont stupéfiants, montrant un résultat presque identique lorsqu’on compare la CGI hollywoodienne à un deepfake.

Les implications de cette technologie sont immenses. Il ne s’agit pas seulement des effets que cela pourrait avoir sur les célébrités et autres personnalités publiques qui sont déjà soumises à toutes sortes de manipulations de faux et de canulars. Il s’agit également de ce que l’échange de visage assisté par l’IA pourrait signifier pour la politique, le journalisme et la criminalité. Nous supposons également que l’échange de visages est la fin du jeu, mais ce n’est clairement que le début. Les progrès de l’IA ont effectivement donné naissance à une nouvelle forme plus puissante et plus sophistiquée d’Adobe Photoshop pour tout type de média, qu’il s’agisse de photos ou de vidéos.

On ne sait pas quels objets, actions ou scènes pourraient être fabriqués avec suffisamment de données photographiques et vidéo pour continuer. La frontière entre le vrai et le faux ne fera que s’estomper. Il existe déjà des applications capables de faire sourire n’importe qui sur une photo, et les réseaux neuronaux sont déjà capables de générer des photos organiques de paysages, d’animaux et d’architecture. Il se trouve qu’à l’heure actuelle, Internet étant ce qu’il est, l’échange de visage assisté par l’IA est utilisé à des fins particulièrement inquiétantes.