Bien que les discussions sur une éventuelle interdiction américaine de TikTok aient été tempérées ces derniers temps, des inquiétudes subsistent autour de l’application et de la manière dont elle pourrait théoriquement être utilisée par le gouvernement chinois pour mettre en œuvre diverses formes de suivi des données et de manipulation de messagerie dans les régions occidentales.
Ce dernier point a été à nouveau souligné cette semaine, lorsque Meta a publié son dernier « Rapport sur les menaces contradictoires », qui comprend un aperçu des dernières détections de Meta, ainsi qu’un résumé plus large de ses efforts tout au long de l’année.
Et tandis que les données montrent que la Russie et l’Iran restent les régions sources les plus courantes de programmes de manipulation coordonnés, la Chine arrive en troisième position sur cette liste, Meta ayant fermé près de 5 000 profils Facebook liés à un programme de manipulation basé en Chine au cours du seul troisième trimestre.
Comme expliqué par Meta :
« Nous avons supprimé 4 789 comptes Facebook pour violation de notre politique contre les comportements inauthentiques coordonnés. Ce réseau est originaire de Chine et ciblait les États-Unis. Les individus à l’origine de cette activité ont utilisé de faux comptes basiques avec des photos de profil et des noms copiés ailleurs sur Internet pour publier et se lier d’amitié avec des personnes du monde entier. Ils se sont fait passer pour des Américains pour publier le même contenu sur différentes plateformes. Certains de ces comptes utilisaient le même nom et la même photo de profil sur Facebook et X (anciennement Twitter). Nous avons supprimé ce réseau avant qu’il ne puisse obtenir l’engagement de communautés authentiques sur nos applications.
Meta dit que ce groupe visait à influencer les discussions sur la politique américaine et chinoise en partageant des actualités et en s’engageant dans des publications liées à des questions spécifiques.
« Ils ont également publié des liens vers des articles de presse des grands médias américains et partagé des publications Facebook rédigées par de vraies personnes, probablement dans le but de paraître plus authentiques. Une partie du contenu partagé était politique, tandis que d’autres couvraient des sujets tels que les jeux, l’histoire, les mannequins et les animaux de compagnie. Fait inhabituel, au milieu de l’année 2023, une petite partie des comptes de ce réseau ont changé de nom et de photo de profil, passant de se faisant passer pour des Américains à se faisant passer pour des résidents de l’Inde, lorsqu’ils ont soudainement commencé à aimer et à commenter les publications d’un autre réseau d’origine chinoise axé sur l’Inde et le Tibet. »
Meta note en outre qu’elle a supprimé plus de groupes de comportement inauthentique coordonné (CIB) de Chine que de toute autre région en 2023, reflétant la tendance croissante des opérateurs chinois cherchant à infiltrer les réseaux occidentaux.
« Les dernières opérations publiaient généralement du contenu lié aux intérêts de la Chine dans différentes régions du monde. Par exemple, beaucoup d’entre eux ont fait l’éloge de la Chine, certains ont défendu son bilan en matière de droits de l’homme au Tibet et au Xinjiang, d’autres ont attaqué les critiques du gouvernement chinois dans le monde entier et ont publié des articles sur la rivalité stratégique de la Chine avec les États-Unis en Afrique et en Asie centrale.»
Google a également supprimé à plusieurs reprises de grands groupes de comptes YouTube d’origine chinoise qui cherchaient à développer une audience dans l’application, afin de susciter ensuite un sentiment pro-chinois.
Le plus grand groupe coordonné identifié par Google est une opération connue sous le nom de « Dragonbridge », qui a longtemps été le plus grand initiateur d’efforts de manipulation dans ses applications.
Comme vous pouvez le voir dans ce graphique, Google a supprimé plus de 50 000 instances d’activité Dragonbridge sur YouTube, Blogger et AdSense rien qu’en 2022, soulignant les efforts persistants des groupes chinois pour influencer le public occidental.
Ainsi, ces groupes, qu’ils soient associés ou non au PCC, cherchent déjà à infiltrer les réseaux basés en Occident. Ce qui souligne du même coup la menace potentielle de TikTok, étant donné qu’il est contrôlé par un propriétaire chinois, et donc probablement plus directement accessible à ces opérateurs.
C’est en partie pourquoi TikTok est déjà interdit sur les appareils appartenant au gouvernement dans la plupart des régions, et pourquoi les experts en cybersécurité continuent de tirer la sonnette d’alarme à propos de l’application, car si les chiffres ci-dessus reflètent le niveau d’activité que les plateformes non chinoises constatent déjà, vous pouvez imaginez seulement qu’à mesure que l’influence de TikTok grandit, elle figurera également en bonne place sur la liste de distribution du même matériel.
Et nous n’avons pas le même niveau de transparence dans les efforts d’application de TikTok, et nous n’avons pas non plus une compréhension claire des liens de la société mère ByteDance avec le PCC.
C’est pourquoi la menace d’une éventuelle interdiction de TikTok demeure, et persistera encore pendant un certain temps, et pourrait encore se propager en cas de changement dans les relations entre les États-Unis et la Chine.
Un autre point à noter dans le rapport sur les menaces contradictoires de Meta est son résumé de l’utilisation de l’IA pour de telles activités et son évolution au fil du temps.
Le propriétaire de X, Elon Musk, a souligné à plusieurs reprises l’essor de l’IA générative comme un vecteur clé pour activité accrue des robots, car les spammeurs seront en mesure de créer des comptes de robots plus complexes et plus difficiles à détecter grâce à de tels outils. C’est pourquoi X s’oriente vers des modèles de paiement comme moyen de contrer la production de masse de profils de robots.
Et bien que Meta reconnaisse que les outils d’IA permettront aux acteurs de la menace de créer de plus grands volumes de contenu convaincant, il affirme également qu’il n’a pas vu de preuves « que cela va bouleverser les efforts de notre industrie pour contrer les opérations d’influence secrètes » à ce stade.
Meta fait également valoir ce point intéressant :
« Pour les auteurs de menaces sophistiquées, la génération de contenu n’a pas constitué un défi majeur. Ils ont plutôt du mal à créer et à impliquer des publics authentiques qu’ils cherchent à influencer. C’est pourquoi nous nous sommes concentrés sur l’identification des comportements contradictoires et des tactiques utilisées pour susciter l’engagement de personnes réelles. Interrompre ces comportements dès le début permet de garantir que le contenu trompeur de l’IA ne joue pas de rôle dans des opérations d’influence secrètes. Il est également peu probable que l’IA générative change cette dynamique.
Ce n’est donc pas seulement du contenu dont ils ont besoin, mais aussi du matériel intéressant et engageant, et comme l’IA générative est basée sur tout ce qui a précédé, elle n’est pas nécessairement conçue pour établir de nouvelles tendances, qui aideraient ensuite ces comptes de robots à créer une audience.
Il s’agit là de quelques notes intéressantes sur le paysage actuel des menaces et sur la manière dont les groupes coordonnés cherchent toujours à utiliser les plateformes numériques pour diffuser leurs messages. Cela ne s’arrêtera probablement jamais, mais il convient de noter d’où viennent ces groupes et ce que cela signifie pour les discussions connexes.
Vous pouvez lire le « Rapport sur les menaces contradictoires » du troisième trimestre de Meta ici.
