FakeApp, votre visage dans un porno ?

Le face-swapping vous connaissez ? C’est cette technologie qui permet d’échanger le visage de deux personnes sur une photo ou plus récemment une vidéo. Les applications de faceswap se sont largement répandues ces dernières années sur les stores des différents smartphones, et sont même parfois directement intégrées sur certaines applications comme Snapchat par exemple.

Deepfake, Fakeapp, Deepfakeapp… Définitions

Brad Jolie et Angelina Pitt

Ok le face-swap, c’est sympa et marrant. Mais un utilisateur un peu malsain du forum reddit portant le pseudo « deepfake » a décidé d’aller un petit peu plus loin dans cette technologie. En utilisant une technologie de machine learning (Intelligence Artificielle), deepfake est parvenu à faire en sorte que son programme informatique remplace le visage de quelqu’un par celui d’une autre personne, en vidéo.

Internet étant rempli de gens plus fous les uns que les autres, ses premiers tests se sont donc naturellement portés sur la pornographie. Ainsi l’utilisateur a commencé à remplacer le visage d’actrices de films de charmes, par le visage de célébrités. L’histoire aurait pu s’arrêter là. Mais non. Un autre utilisateur de ce forum a réutilisé le programme de deepface pour en faire une application à l’utilisation beaucoup plus simple. Et a ensuite fourni un tuto permettant de créer soi-même ses fausses vidéos.

Une technologie dangereuse

Le problème, c’est qu’en rendant une telle technologie si facilement accessible à l’ère des fakes news, on comprend rapidement la dangerosité d’un tel outil. Si les intentions de certains utilisateurs sont louables (remplacer Joseph Gordon-Levitt par Bruce Willis en jeune dans le film Looper par exemple), la majorité des utilisateurs se sont pour l’instant concentrés… sur le porno (Attention NSFW). Triste. A l’heure ou nous écrivons ces lignes, la communauté reddit vient d’être bannie et le forum est donc maintenant inaccessible. Toutefois, ne crions pas victoire trop vite, d’autres sites web se feront très certainement un grand plaisir d’accueillir ces utilisateurs.

Daisy Ridley deepfake : Le visage de Gal Gadot (Wonder Woman) sur le corps d’une actrice X

Fort heureusement, certaines plateformes tel que PornHub ont décidé d’interdire toutes les vidéos générées par Intelligence artificielle. Mais les utilisateurs étant friands de ce type de contenu, soyez sûr que d’autres plateformes moins ethiques n’hésiteront pas à les laisser en ligne, quitte à être en illégalité. (visites = publicité = argent)

On peut donc se féliciter de voir les platesformes réagir pour freiner le phénomène, mais soyez malheureusement certains que cela ne suffira pas à le stopper définitivement.

Après les montages photos, les montages vidéos ?

Mais en soit, prenons un exemple : Qu’est ce qui empêche un utilisateur de se venger d’un collègue de travail en réalisant une vidéo salace ? Qu’est ce qui empêche un utilisateur de se venger de son ex ? Nous connaissons le revenge porn, voici venu le fake revenge porn ? Après le danger des montages photos, voici donc venu le danger des montages vidéos ? La technologie allant s’améliorer dans le futur, il deviendra difficile de déceler la supercherie.

Comment se protéger des montages vidéos ? (et photos)

Alors que faire ? Eh bien pour faire tout montage photo, il faut avoir… des photos ! Pour un montage vidéo de bonne qualité, c’est encore plus essentiel. Le programme a besoin de nombreuses photos de vous, afin d’analyser votre visage pour générer une vidéo de qualité.

Le « carburant » de ce programme de trucage vidéo est donc les photos. Pour se protéger, il faut donc éviter de lui en donner : limitez l’accès aux photos de vous. Moins de photos de vous seront disponibles, plus il sera compliqué de réaliser un montage vidéo crédible.

La loi nous protège-t-elle contre ce nouveau genre de détournement ?

Que dit la loi ? S’il n’existe pas encore de jurisprudence sur le sujet, il existe tout un tas d’affaires concernant des montages photos. En 2015, un ex sous-officier de la Marine nationale qui avait soustrait des photos de collègues féminines pour en faire un montage et les mettre en ligne sur un site porno a été condamné à deux ans de prison avec sursis et à verser près de 80 000 euros de dommages et intérêts pour préjudice moral. Ca pique. (Bon, l’affaire concernait 39 victimes).

Toutefois, comme pour toute procédure judiciaire, cela reste long et épuisant. Mieux vont donc éviter de diffuser son visage partout sur le web. Affaire à suivre donc, l’avenir nous dira si ce type de vidéos tend à devenir de plus en plus répandu, ou si cela n’aura été qu’une mode passagère enraillée rapidement par la réactivité des grosses plateformes du secteur.