Les attentats de Christchurch ont envoyé une nouvelle vague de terreur dans la communauté des médias sociaux, notamment en raison du fait que l’attaquant a utilisé Facebook Live pour diffuser ses crimes, qui a ensuite vu les images se répandre sur divers réseaux.
Le but des attaquants était évidemment d’atteindre un niveau de notoriété, de renommée, et la préoccupation persistante est que cela pourrait déclencher d’autres incidents similaires, ce qui jette les options de diffusion en direct, en particulier, sous un jour négatif.
De par sa nature, le contenu en direct ne peut pas être examiné avant sa diffusion – il est en temps réel, dans l’instant. Compte tenu du fonctionnement de la diffusion en direct, il est impossible pour les plateformes de maintenir un niveau de contrôle sur ce qui est diffusé.
Et c’est loin d’être le premier incident préoccupant – en 2016, une femme a utilisé Periscope pour diffuser en direct son propre suicide, en 2015, un ancien employé de WDBJ7 a abattu un ancien collègue lors d’un croisement en direct, avant de télécharger des images du attaque en ligne, alors que l’année dernière, une femme de Louisane a été assassinée par son petit ami alors qu’elle diffusait sur Facebook Live. La diffusion en direct est devenue une fonction de médias sociaux extrêmement populaire – mais la question doit être posée, sa valeur et sa contribution à notre paysage interactif valent-elles le risque potentiel d’utilisation abusive et d’exposition à ce matériel préoccupant?
Cette semaine, Facebook a rencontré des représentants du gouvernement néo-zélandais pour discuter de leur réponse aux attaques de Christchurch, et parmi eux se trouve une nouvelle proposition qui ne supprimerait pas entièrement la diffusion en direct comme option, mais qui en restreindrait l’utilisation par certains. gens.
Comme l’explique Sheryl Sandberg, COO de Facebook:
« WNous explorons des restrictions sur les personnes autorisées à passer en direct en fonction de facteurs tels que les violations antérieures des normes de la communauté. »
Cela signifierait que certains utilisateurs qui ont déjà été signalés pour un comportement inquiétant n’auraient plus la possibilité de se mettre en ligne.
La proposition suggère deux choses: premièrement, Facebook est capable de mettre en œuvre des restrictions sur la diffusion en direct en fonction de facteurs spécifiques, ce qui permettrait à la plate-forme de supprimer ou d’annuler l’option, dans une certaine mesure. C’est peut-être là que Facebook aboutit – idéalement, la société ne voudrait pas supprimer la diffusion en direct en tant que fonction, car cela réduirait également le potentiel d’engagement, mais il est intéressant de noter que Facebook explore des moyens de l’éloigner de certains utilisateurs.
Si cela aurait aidé dans le cas de Christchurch n’est pas clair – l’attaquant avait une longue histoire d’activité concernant les communautés en ligne, mais rien n’indique qu’il avait déjà été signalé à Facebook pour la même chose.
Deuxièmement, la proposition montre que Facebook se rend compte des impacts de la diffusion en direct dans de tels incidents et des dommages qu’elle peut causer. Facebook est normalement considéré comme largement aveugle à de tels dommages – ou du moins, prêt à fermer les yeux. Le fait que Facebook envisage de supprimer complètement l’option est un point positif, mais en réalité, le seul véritable moyen d’empêcher l’utilisation de Facebook Live à cette fin est de le retirer à tous les utilisateurs. Encore une fois, Facebook ne voudrait pas faire cela, mais logiquement, compte tenu du nombre croissant d’incidents, cela pourrait encore être là où nous nous retrouvons.
En plus de cela, Facebook cherche également à améliorer ses outils d’identification par IA pour l’aider à détecter et à supprimer plus rapidement ce contenu. Facebook a précédemment rapporté que dans les 24 premières heures après l’attaque de Christchurch, il a pu supprimer environ 1,5 million de vidéos de l’incident, dont plus de 1,2 million ont été bloquées lors du téléchargement, ce qui signifie que personne ne les a vues. C’est un résultat impressionnant, mais Sandberg dit qu’ils cherchent à faire mieux:
« Alors que la vidéo originale de l’attaque néo-zélandaise a été partagée en direct, nous savons que cette vidéo s’est répandue principalement grâce à des personnes qui la re-partagent et la rééditent pour rendre plus difficile pour nos systèmes de la bloquer; nous avons identifié plus de 900 vidéos différentes montrant des portions de ces horribles 17 minutes. Les personnes mal intentionnées essaieront toujours de contourner nos mesures de sécurité. C’est pourquoi nous devons travailler pour garder une longueur d’avance. Au cours de la semaine dernière, nous avons également apporté des modifications à notre processus d’examen pour nous aider à améliorer notre temps de réponse à des vidéos comme celle-ci à l’avenir. «
Facebook a également récemment annoncé que le contenu de la suprématie blanche serait banni de ses plates-formes, une autre mesure conçue pour éradiquer la haine raciale et empêcher son réseau d’être utilisé pour diffuser ce type de contenu. La société a également récemment adopté la même position avec le contenu anti-vax, montrant qu’elle cherche maintenant à tracer une ligne plus définitive dans le sable en ce qui concerne les mouvements.
Pendant longtemps, Facebook a abordé ce contenu de manière « pratique », préférant être simplement les hôtes du parti, et non les arbitres de ce qui est discuté. Facebook a longtemps soutenu qu’il ne s’agissait pas d’une entreprise de médias, qu’elle ne portait pas de jugement rédactionnel, mais la taille et l’influence de son réseau ne lui laissent désormais plus d’autre choix que d’agir.
Compte tenu de l’utilisation des médias sociaux par l’auteur, les attaques de Christchurch sont à ce jour l’exemple le plus significatif de la manière dont les plateformes sociales peuvent jouer un rôle dans la diffusion de contenus dangereux.
Le fait que cette phrase s’accompagne d’un qualificatif «jusqu’ici» ne fait que souligner ici le niveau de préoccupation. Espérons que les leçons seront mises en œuvre avant qu’il ne soit trop tard.
