2020 sera-t-elle l’année où les deepfakes se généraliseront?
Ce n’est que la première semaine de l’année, et nous avons vu deux nouvelles avancées sur ce front, avec Snapchat acquérant la start-up de vision par ordinateur AI Factory pour 166 millions de dollars, et des images qui montrent que TikTok travaille sur un ajout de style deepfake au sein son application, permettant aux utilisateurs de créer des vidéos avec leur propre visage superposé sur des séquences préenregistrées.
Tout d’abord, sur Snapchat – Snap aurait acheté AI Factory, la société avec laquelle elle a travaillé pour développer sa fonction Cameo récemment lancée, qui permet aux utilisateurs de superposer leur visage sur une sélection de scènes prédéfinies.
L’acquisition suggérerait que Snapchat cherchera à avancer plus loin dans cette voie, en améliorant sa capacité à superposer votre image sur du contenu vidéo.
TikTok, quant à lui, selon TechCrunch, travaille sur une fonctionnalité de style deepfake plus directe, qui demande aux utilisateurs de effectuer un scan biométrique multi-angle de leur visage, puis leur permet d’ajouter leur image dans une sélection de vidéos.
L’outil ressemble à l’application de montage vidéo ZAO, qui permet aux utilisateurs de télécharger leur image sur une gamme de scènes de film.
Au cas où vous n’auriez pas entendu, #ZAO est une application chinoise qui a complètement explosé depuis vendredi. Meilleure application de remplacement facial AI de style « Deepfake » que j’ai jamais vue.
Voici un exemple de moi en tant que DiCaprio (généré en moins de 8 secondes à partir de cette photo dans la vignette) ???? pic.twitter.com/1RpnJJ3wgT
– Allan Xia (@AllanXia) 1 septembre 2019
Ces deux développements suscitent un certain niveau de préoccupation – au cours des dernières années, nous avons constaté des progrès significatifs dans la technologie vidéo et en permettant aux utilisateurs de superposer les visages d’autres personnes sur le contenu vidéo existant.
Prenez, par exemple, la vidéo de morphing Bill Hader / Tom Cruise:
Ou cette vidéo représentant Donald Trump comme chaque jeune de l’émission «Toddlers in Tiaras».
Ils n’ont toujours pas l’air à cent pour cent, il y a encore des éléments où les bords sont flous ou légèrement pépins. Mais il est clair que la technologie s’améliore rapidement, et bien que ces exemples ne soient que pour le plaisir, pour le divertissement en ligne, il n’est pas difficile d’imaginer que la même technologie soit utilisée à des fins plus néfastes, comme montrer à un politicien ce qu’il n’a pas fait, ou représentant un chef d’entreprise ou une célébrité dans une position compromettante.
Et ce qui est pire, même si une telle vidéo s’avérait être fausse rétrospectivement, une fois que le dommage initial est fait, il pourrait être trop tard. Le potentiel de préjudice via un tel processus est important.
C’est pourquoi Facebook, Google et Twitter mènent tous indépendamment des recherches préventives sur la façon de détecter et de mettre en évidence les deepfakes pour éviter les erreurs d’interprétation. Ce qui rend un peu étrange que TikTok et Snapchat travaillent pour faciliter les variations de la même chose dans leurs outils natifs.
Pour la part de Snapchat, sa fonctionnalité Cameo est plus caricaturale, plus basée sur l’animation que sur la réalité, il est donc difficile de la voir utilisée à cette fin. La variation de TikTok est plus préoccupante – et pire, les données biométriques téléchargées dans TikTok (ou plus spécifiquement la version chinoise de l’application « Douyin ») à cette fin pourraient être consultées par le gouvernement chinois à des fins d’identification.
Les mesures de surveillance avancées de la Chine ont déjà été critiquées par des groupes de défense des droits de l’homme, les autorités chinoises utilisant apparemment des scans numériques de visage pour suivre et contrôler les activités des Ouïghours Musulmans dans le pays. Le réseau de surveillance des citoyens chinois comprend plus de 170 millions de caméras de vidéosurveillance – l’équivalent d’une pour 12 personnes dans le pays – qui seraient toutes équipées d’une capacité avancée de reconnaissance faciale.
Le téléchargement de vos données de scan du visage sur Douyin semble être un chemin infaillible pour que le gouvernement chinois accède à ces données et les utilise à des fins de suivi.
Lorsqu’elle a été contactée par TechCrunch sur la nouvelle fonctionnalité, la société mère de TikTok, ByteDance, a nié que cette option de style deepfake arriverait un jour à TikTok.
Selon ByteDance:
« Ce n’est certainement pas une fonction dans TikTok, et nous n’avons aucune intention de l’introduire. Je pense que ce que vous cherchez peut-être est quelque chose de prévu pour Douyin – votre e-mail comprend des captures d’écran qui proviendraient de Douyin, et une politique de confidentialité qui mentionne Douyin.
Donc, juste pour les utilisateurs chinois, pas pour TikTok. TechCrunch note que la documentation de la nouvelle fonctionnalité était définitivement disponible dans TikTok, ce qui suggérerait qu’à un moment donné au moins, elle était prévue pour un déploiement plus large. Mais il semble, pour le moment, que seuls les utilisateurs chinois obtiendront l’outil.
Ce qui, comme indiqué ci-dessus, ne l’améliore probablement pas. Il existe certainement des applications intéressantes et divertissantes pour les outils de style deepfake, et vous pouvez imaginer qu’elles s’avéreraient très populaires dans l’une ou l’autre application. Mais il y a aussi des risques importants à rendre ces produits si facilement disponibles.
Mais là encore, des outils similaires sont déjà disponibles dans d’autres applications – TikTok et Snapchat devraient-ils donc manquer cet engagement alors que les gens peuvent déjà utiliser le même ailleurs? Quelle est la responsabilité de chaque plate-forme pour faciliter une éventuelle utilisation abusive à cet égard?
Il n’y a pas de réponses faciles, et il n’en reste pas moins que les deepfakes, comme nous en avons été avertis par tous les principaux acteurs de la technologie, vont devenir un problème.
Nous devons maintenant nous fier à ces mêmes plates-formes pour nous fournir des outils de détection avancés afin d’éviter les impacts potentiels.
