Après les récentes attaques terroristes de Christchurch, au cours desquelles 50 personnes ont été abattues dans des mosquées, l’attention s’est rapidement tournée vers Facebook et le rôle que la plate-forme a joué et a joué dans la diffusion de messages de haine raciale et la division de la communauté.
Un point focal clé a été que le tireur a diffusé ses actes sur Facebook Live – selon Facebook, la diffusion originale des attaques a été vue environ 4000 fois avant d’être supprimée, tandis que Facebook l’a par la suite supprimé environ 1,5 million de vidéos de l’incident, dont plus de 1,2 million bloquées lors du téléchargement, les empêchant ainsi d’être vues sur le réseau.
Mais les autorités estiment que Facebook peut et devrait faire plus – ces derniers jours, Facebook a rencontré des responsables gouvernementaux en Nouvelle-Zélande et en Australie pour discuter de ce qu’il peut faire pour empêcher les gens d’utiliser Facebook Live à cette fin, et de ce que Facebook peut faire, plus largement, pour minimiser la haine raciale.
Cela a conduit à la dernière annonce de Facebook – un nouveau interdiction de «l’éloge, le soutien et la représentation du nationalisme blanc et du séparatisme sur Facebook et Instagram», que Facebook commencera à appliquer à partir de la semaine prochaine.
Selon Facebook:
« Nos politiques ont depuis longtemps interdit le traitement haineux des personnes basé sur des caractéristiques telles que la race, l’ethnie ou la religion – et cela a toujours inclus la suprématie blanche. À l’origine, nous n’avons pas appliqué la même logique aux expressions du nationalisme blanc et du séparatisme parce que nous pensions à des concepts plus larges de nationalisme et de séparatisme – des choses comme la fierté américaine et le séparatisme basque, qui sont une partie importante de l’identité des gens. Mais au cours des trois derniers mois, nos conversations avec des membres de la société civile et des universitaires experts en relations raciales à travers le monde ont confirmé que le nationalisme et le séparatisme blancs ne peuvent être séparés de manière significative de la suprématie blanche et des groupes haineux organisés. «
L’annonce sera sans aucun doute critiquée par les groupes d’extrême droite, dont beaucoup utilisent désormais Facebook comme principal outil pour construire leur base de soutien.
En effet, le contenu d’extrême droite ne manque pas sur la plate-forme – une simple recherche peut révéler une gamme de mèmes et de messages à la limite qui sont désormais susceptibles de faire l’objet d’un examen plus approfondi.
Le problème est que ce type de contenu suscite une réponse émotionnelle et, comme l’ont montré divers rapports, déclencher une réaction émotionnelle est la clé de l’engagement. Si vous pouvez inviter plus de personnes à appuyer sur ce bouton de réaction, l’algorithme de Facebook récompensera votre contenu avec une portée et une exposition accrues. C’est le même principe qui a poussé les organes de presse à devenir plus sensationnalistes dans leur couverture – l’impartialité n’est pas aussi convaincante, dans un sens émouvant, que de proposer un point de vue définitif, qui suscite ensuite une réaction du lecteur.
Cela fait partie de la préoccupation plus large concernant Facebook de manière plus générale – grâce à son algorithme de fil d’actualité, Facebook a essentiellement changé la façon dont les informations sont couvertes, en canalisant les points de vente vers différents côtés du spectre afin de maximiser la réponse du public, et donc la portée. Ce sont les algorithmes eux-mêmes qui ont conduit cela, au moins dans une certaine mesure, il est donc intéressant maintenant de voir Facebook adopter une position plus proactive contre la même chose, traçant une ligne plus large sur ce qui est acceptable et ce qui ne l’est pas.
Beaucoup prétendront également sans aucun doute qu’il s’agit d’une ingérence éditoriale – une balise que Facebook a longtemps évitée – mais dans le sillage de Christchurch, peu de gens peuvent argumenter sur le potentiel de Facebook pour déclencher la radicalisation. Le défi consiste maintenant à trouver comment l’arrêter.
En plus de cela, Facebook a également annoncé une nouvelle initiative visant à connecter les personnes qui recherchent du contenu suprémaciste blanc sur sa plate-forme avec des ressources utiles, au lieu de ce matériel.
« Dans le cadre de l’annonce d’aujourd’hui, nous commencerons également à mettre en relation les personnes qui recherchent des termes associés à la suprématie blanche avec des ressources destinées à aider les gens à quitter les groupes haineux. Les personnes qui recherchent ces termes seront dirigées vers Life After Hate, une organisation fondée par anciens extrémistes violents qui fournit intervention de crise, éducation, groupes de soutien et sensibilisation. «
Il est difficile, à ce stade, de prédire à quel point ces outils seront bénéfiques – de nombreux groupes Facebook privés liés à la suprématie blanche et à d’autres mouvements controversés ont déjà été fondés. Est-ce que ceux-ci seront examinés de près? Facebook cherchera-t-il à supprimer le contenu de ces espaces clos, où les membres ont choisi de participer à ces discussions?
Cela ne répond pas non plus à la plus grande préoccupation soulevée par les responsables gouvernementaux – Facebook a permis à un meurtrier de diffuser ses actes en temps réel, non filtrés et visibles par quiconque en ligne à ce moment-là. Facebook a résisté à toute modification de son produit de diffusion en direct – qui, de par sa nature, ne peut pas être modifié avant sa diffusion – mais il a fait les concessions ci-dessus sur le contenu nationaliste blanc.
Est-ce une décision réelle et substantielle, ou un effort pour apaiser les fonctionnaires avec un niveau de compromis à la suite des attentats de Christchurch?
Compte tenu de cela, nous devrons attendre de voir comment Facebook applique ces nouvelles règles et quels impacts elles pourraient avoir. Certes, c’est un domaine que Facebook, et tous les réseaux sociaux, devraient aborder, mais à quel niveau cela est possible dans leurs cadres actuels – et en ligne avec leurs algorithmes de partage – est difficile à dire.
Facebook pourrait prendre des mesures plus substantielles, il pourrait supprimer complètement l’algorithme, ce qui signifie que quiconque et tout ce que vous suivez sur la plate-forme en ce moment est le contenu que vous verriez, au lieu de donner une distribution accrue aux publications très engagées. Mais Facebook a tiré un avantage d’engagement si important de l’algorithme qu’il ne voudrait pas le faire, alors qu’il se rouvrirait également aux anciennes méthodes de jeu du système, comme le clickbait.
Mais là encore, ces stratagèmes sont probablement moins dommageables que le contenu diviseur qui suscite le plus d’engagement actuellement – il serait préférable pour Facebook de créer des systèmes pour réduire la distribution de listcles ennuyeux que les opinions extrémistes.
C’est essentiellement l’appel que Facebook doit lancer: peut-il équilibrer ses intérêts commerciaux avec de bonnes mesures sociétales, et quelle serait l’efficacité de chaque approche pour réduire ces impacts?
Cette nouvelle annonce aidera certainement, mais je soupçonne que nous n’avons pas entendu le dernier de ce débat en cours.
