Le Super Daily

DeepFakes :  Funs mais jusqu’à quand ?

Episode Summary

Épisode 312 : Après les filtres en réalité augmentée qui sont partout en ce moment, 2020 sera-t-elle l'année où les deepfakes vont se généraliser ? C’est fun mais a quel moment les deepfakes deviennent ils dangereux ? C’est la grande question que l’on se pose ce matin.

Episode Notes

Épisode 312 : Après les filtres en réalité augmentée qui sont partout en ce moment, 2020 sera-t-elle l'année où les deepfakes vont se généraliser ? C’est fun mais a quel moment les deepfakes deviennent ils dangereux ? C’est la grande question que l’on se pose ce matin.

Le Deepfake, qu’est-ce que c’est ?

Deepfake est la contraction de « deep learning » et « fake news”.

Il s’agit de produire des contenus multimédia (images, vidéo, son) qui sont faux.

Ce ne sont pas des vraies captations d’événements qui se sont vraiment passés.

Par exemple, Trump qui annonce une guerre contre l’Iran.

On pourrait appeler ça aussi des effets spéciaux ou des images de synthèses.

Rien de nouveau du coup ? Et bien si, ces effets spéciaux n’ont jamais été aussi facile à créer !

Définition :

Le deepfake, ou hypertrucage, est une technique de synthèse d'images basée sur l'intelligence artificielle. Elle sert à superposer des fichiers audio et vidéo existants sur d'autres vidéos (par exemple : le changement de visage d'une personne sur une vidéo). Le terme deepfake est un mot-valise formé à partir de deep learning (« apprentissage profond ») et de fake (« faux »).

Historique :

Ces technologies sont toutes jeunes puisqu’elles ont été présentées au public en 2016, que ce soit la superposition de voix calqué sur votre propre voix ou la transposition vidéo d’un visage ou d’un effet.

Les hypertrucages ont été notamment rendus célèbres pour avoir été utilisés afin de créer de fausses vidéos érotiques (sextapes), mettant en scène des célébrités, et de la pornodivulgation

La technologie :

Bon à savoir, Google a créé son propre outil : TensorFlow, en open source qui est une technologie pour créer des deepfake

Aujourd’hui en marge des applis comme Snapchat ou Tiktok, on retrouve des tonnes d’applis de DeepFake, il suffit de taper DeepFake

----

Les outils se démocratisent

L’application chinoise Zao démocratise le DeepFake en 2019

Zao, une application gratuite de changement de visage en profondeur qui est capable de placer votre ressemblance dans des scènes de centaines de films et d'émissions de télévision après avoir téléchargé une seule photo, est devenue virale en Chine.

https://www.theverge.com/2019/9/2/20844338/zao-deepfake-app-movie-tv-show-face-replace-privacy-policy-concerns

Ce n'est que le début de l’année 2020 et nous avons vu déjà 2 grosses annonces sur le sujet Deep Fake du côté de Snapchat et TikTok.

Snapchat fait l’acquisition de AI Factory une société spécialisé dans le Deep Fake

Snap aurait acheté AI Factory, qui est la société avec laquelle il a travaillé pour développer sa fonction Cameo récemment lancée , qui permet aux utilisateurs de superposer leur visage sur une sélection de scènes prédéfinies.

L'acquisition suggère que Snapchat cherchera à avancer plus loin dans cette voie, améliorant sa capacité à superposer votre image sur du contenu vidéo.

TikTok travaille aussi de son côté à de nouvelles fonctionnalités de type «Deepfake»

Selon TechCrunch , TikTok travaille sur une fonctionnalité de style deepfake, qui demande aux utilisateurs de prendre une analyse biométrique multi-angle de leur visage. Cela leur permet d'ajouter leur image dans une sélection de vidéos encore plus réaliste.

Les outils s’améliorent à très grande vitesse !

Pour l’instant ces différents outils ont des rendus bluffant mais on détecte encore qu’il s’agit de montage. Il y a parfois des zones de flou, des raccords un peu mal géré.

Et puis il s’agit surtout de se marrer ! La fonctionnalité Caméo de Snapchat est un bon exemple. Tu mets ta tête sur des micro clip vidéo fun. Un chat qui attaque, une pop pop girl. Rien de bien inquiétant.

Un effet Gif , saccadé, volontaire

Aujourd’hui, a moins d’être un crack et d’avoir développé soi-même son application, les Deepfake sont souvent un peu foireux mais c’est ce qui les rends amusants, c’est comme porter un masque.

On peut faire un parallèle avec l’AI, ça nous amuse de parler a un robot d’accueil ou a SIRI, mais le jour où ils deviendront trop intelligent, ça nous fera peut

Oui mais, oui mais

Au rythme ou la techno évolue tout devient envisageable et certains penchent sur des scénarios catastrophes. Comme montrer un politicien dire quelque chose qu'il n'a pas fait, un chef d'entreprise ou une célébrité dans une position compromettante.

Le pire, même si une telle vidéo s'est révélée être fausse après-coup, une fois que les dommages initiaux sont faits, il pourrait être trop tard. Le potentiel de dommages est important.
On peut d’ailleurs revenir sur les FakeNews et l’étude dont nous avions parlé précédemment. A force de les voir les internautes les tolèrent et les acceptent;

——

Les plateformes à la recherche d’outils de détection

Tout ça évolue très vite d’où la nécessité de se doter le plus vite possible d’outils efficaces pour dénicher toute supercherie, à l’image de ce qui existe déjà dans le monde de la photographie avec le logiciel Tungstène, que l’AFP utilise pour analyser la structure d’un cliché et déterminer s’il y a eu des manipulations.

Facebook, Google et Twitter mènent tous indépendamment des recherches préventives sur la façon de détecter et de mettre en évidence les deepfakes pour éviter toute interprétation erronée.

https://ai.googleblog.com/2019/09/contributing-data-to-deepfake-detection.html

https://www.socialmediatoday.com/news/twitter-outlines-policy-plan-for-identifying-deepfakes-in-tweets/567063/

Facebook lance un concours « Deepfake Detection Challenge » (DDC), afin de créer des technologies et logiciels capables de déceler des vidéos utilisant la technique de « deepfake ».
Un défi lancé à la communauté de recherche informatique pour faire avancer la recherche en matière de lutte contre les deepfakes, ces vidéos manipulées par des techniques d'intelligence artificielle.

https://deepfakedetectionchallenge.ai/
Amazon Web Service > Facebook > Microsoft

Le concours se termine dans 3mois et 895 teams sont inscrites pour gagner le prix de 1M$
On peut même voir les tableaux de score en ligne, le premier actuellement a détecté 21 deep fakes

Les pays s'engagent aussi contre le deepfake

En Chine

La Chine a mis en place au 1er Janvier une loi bannissant les contenus qui ne mentionnent pas l’utilisation de superpositions de vidéos et d’audios. Les deepfakes qui ne sont pas mentionnés comme tels seront considérés illégaux.

Il est obligatoire de préciser qu’une vidéo a été créée grâce à l’intelligence artificielle et qu’elle rapporte de fausses informations, pour qu’elle soit publiée de manière légale. Si ces mentions n’apparaissent pas, le créateur de la deepfake sera considéré comme un criminel.

« Des contenus comme les deepfakes peuvent perturber la véracité des informations diffusées ainsi que l’ordre social dans le pays. L’intelligence artificielle utilisée dans cet objectif précis pourrait avoir un impact négatif sur la sécurité nationale de la Chine»

Influenceuse Chinoise > Your Highness Qiao Biluo le 25 juillet dernier
Elle avait généré des milliers de dons

Aux USA

Le gouverneur de Californie a ratifié, le 3 octobre, 2 lois contre les deepfakes politiques et pornographiques. Il y est désormais illégal de publier une vidéo manipulée pour discréditer un candidat Californie, dans les 60 jours qui précèdent une élection. La seconde loi vise à encadrer l’usage de cette technique dans la pornographie.

. . .

Le Super Daily est le podcast quotidien sur les réseaux sociaux. Il est fabriqué avec une pluie d'amour par les équipes de Supernatifs.

Nous sommes une agence social media basée à Lyon. Nous aidons les entreprises à créer des relations durables et rentables avec leurs audiences. Nous inventons, produisons et diffusons des contenus qui engagent vos collaborateurs, vos prospects et vos consommateurs.