Encore un autre indicateur de la montée potentielle des deepfakes en tant qu’arme de désinformation, Reddit a mis à jour cette semaine ses directives pour interdire l’utilisation de l’usurpation d’identité trompeuse dans son application, avec une mention spécifique du contenu deepfake.
Selon Reddit:
«Nous avons effectué un travail important sur les opérations d’intégrité du site alors que nous entrons dans 2020 pour nous assurer que nous avons les règles et processus appropriés en place pour gérer les mauvais acteurs qui tentent de manipuler Reddit, en particulier sur des questions de grande importance publique, comme les élections. . À cette fin, nous avons pensé qu’il était temps de mettre à jour notre politique sur l’usurpation d’identité afin de mieux couvrir certains des cas d’utilisation que nous avons déjà observés et que nous avons mis en œuvre en vertu de cette règle, ainsi que de nous prémunir contre les cas que nous pourrions voir à l’avenir. «
Cette dernière note est la plus pertinente ici. À l’heure actuelle, Facebook, Google et Twitter entreprennent chacun, individuellement, leur propre recherche sur la façon de lutter contre la montée potentielle des deepfakes manipulateurs, et plus tôt cette semaine, Facebook a annoncé sa nouvelle politique sur les médias manipulés, interdisant également « vidéos manipulées trompeuses « .
WBien que l’utilisation abusive des deepfakes ne soit pas encore devenue un problème majeur, il semble qu’il y ait un sentiment au sein de l’industrie que cela est sur le point de devenir un problème important, et avec l’élection américaine imminente, c’est un domaine dans lequel ils sont tous cherche à prendre de l’avance en tant que préoccupation potentielle.
TikTok a également publié de nouvelles réglementations interdisant « contenu manipulé destiné à nuire ».
Mais ce n’est pas encore un problème en tant que tel.
Reddit note que:
« L’emprunt d’identité est en fait l’une des classes de rapports les plus rares que nous recevons … [but] nous voulions également nous protéger contre des choses que nous n’avons pas beaucoup vues à ce jour, mais que nous pourrions voir à l’avenir, comme les deepfakes malveillants de politiciens, par exemple, ou tout autre contenu falsifié ou manipulé de moindre technologie qui induit en erreur. »
Maintenant à 430 millions d’utilisateurs, Reddit pourrait devenir une plate-forme de concentration pour ceux qui cherchent à influencer le résultat de l’élection de 2020, et alors que ses utilisateurs sont considérés comme, en général, plus sceptiques à l’égard de ces affirmations – et donc moins ouverts à la manipulation. à grande échelle – il existe des sous-redits dédiés à pratiquement tous les sujets. Il n’est pas difficile d’imaginer des agents politiques cherchant à développer leurs messages via des groupes partisans Reddit.
Mais comme indiqué, plus pertinent ici est qu’une autre application sociale prend des mesures pour se préparer à la montée des deepfakes. Bien qu’il n’y ait apparemment pas d’augmentation de l’utilisation des deepfakes à cette fin, l’accent accru sur les médias manipulés ne vient pas de nulle part, il y a une raison sous-jacente pour laquelle les plates-formes se préparent pour la prochaine vague. Les indicateurs suggèrent que nous devons également réfléchir à la façon dont nous pouvons rester vigilants et méfiants face à un tel contenu, afin d’éviter des campagnes de désinformation à grande échelle alimentées par de fausses vidéos.
Cela ne se produit pas encore, mais quelque chose à surveiller pour aller de l’avant.
Et aussi, Reddit note que ses nouvelles règles ne s’appliquent pas à d’autres utilisations de supports manipulés:
« Cela ne s’applique pas à tous les contenus deepfake ou manipulés – juste à ce qui est réellement trompeur de manière malveillante. Parce que croyez-moi, nous aimons voir Nic Cage dans des endroits inattendus tout autant que vous. »
Nic Cage bon, fausse déclaration politique mauvaise. Le ton autour d’un tel est assez apprivoisé pour le moment, mais certainement, les deepfakes devraient devenir une préoccupation beaucoup plus grande.
