Ce n’est pas bon pour Meta et ses efforts continus pour contrôler le contenu illégal, ni pour les milliards d’utilisateurs de ses applications.
Selon une nouvelle enquête menée par le Wall Street Journal, en collaboration avec l’Université de Stanford et l’Université du Massachussets, Instagram est devenu un outil de connexion clé pour un « vaste réseau pédophile », ses membres partageant ouvertement du contenu illégal dans l’application.
Et le rapport donne certainement un coup de poing dans son aperçu des résultats :
« Instagram aide à connecter et à promouvoir un vaste réseau de comptes ouvertement consacrés à la commission et à l’achat de contenu sexuel pour les mineurs. Les pédophiles utilisent Internet depuis longtemps, mais contrairement aux forums et aux services de transfert de fichiers qui s’adressent aux personnes intéressées par le contenu illicite, Instagram ne se contente pas d’héberger ces activités. Ses algorithmes les promeuvent. Instagram connecte les pédophiles et les guide vers les vendeurs de contenu via des systèmes de recommandation qui excellent à relier ceux qui partagent des intérêts de niche.
Cette description aurait été une gifle froide pour les membres de l’équipe de confiance et de sécurité de Meta lorsqu’ils l’ont lue dans WSJ ce matin.
Le rapport indique qu’Instagram facilite la promotion de comptes qui vendent des images illicites via des « menus » de contenu.
« Certains comptes invitent les acheteurs à commander des actes spécifiques. Certains menus incluent des prix pour des vidéos d’enfants se faisant du mal et « des images du mineur accomplissant des actes sexuels avec des animaux », ont découvert des chercheurs de l’Observatoire Internet de Stanford. Au juste prix, les enfants sont disponibles pour des « rencontres » en personne. »
Le rapport identifie la dépendance de Meta aux outils de détection automatisés comme un obstacle majeur à ses efforts, tout en soulignant comment les algorithmes de la plate-forme promeuvent essentiellement un contenu plus préjudiciable aux utilisateurs intéressés grâce à l’utilisation de hashtags associés.
De manière confuse, Instagram a même une fenêtre d’avertissement pour un tel contenu, au lieu de le supprimer purement et simplement.

C’est certainement un résumé inquiétant, qui met en évidence une préoccupation importante au sein de l’application – bien qu’il soit également intéressant de noter que les propres rapports de Meta sur les violations des normes communautaires ont également montré une augmentation significative des mesures d’application dans ce domaine ces derniers temps.

Cela pourrait suggérer que Meta est déjà conscient de ces problèmes et qu’il prend davantage de mesures. Mais dans tous les cas, à la suite de ce nouveau rapport, Meta s’est engagé à prendre davantage de mesures pour répondre à ces préoccupations, avec la création d’un nouveau groupe de travail interne pour découvrir et éliminer ces réseaux et d’autres.
Les problèmes ici vont évidemment au-delà de la sécurité de la marque, avec des actions beaucoup plus importantes et percutantes nécessaires pour protéger les jeunes utilisateurs. Instagram est très populaire auprès du jeune public, et le fait qu’au moins certains de ces utilisateurs se vendent essentiellement dans l’application – et qu’une petite équipe de chercheurs l’ait découvert, alors que les systèmes de Meta l’ont raté – est un problème majeur, qui met en évidence d’importants failles dans le processus de Meta.
Espérons que les dernières données du rapport sur les normes communautaires reflètent les efforts plus larges de Meta pour y remédier – mais il faudra prendre de grandes mesures pour traiter cet élément.
Il convient également de noter dans le rapport – les chercheurs ont constaté que Twitter hébergeait beaucoup moins de matériel CSAM dans son analyse et que l’équipe de Twitter a répondu aux préoccupations plus rapidement que celle de Meta.
Elon Musk s’est engagé à traiter le CSAM comme une priorité absolue, et il semble, du moins d’après cette analyse, qu’il pourrait en fait faire des progrès sur ce front.
