Vous lisez

Facebook décrit les efforts en constante évolution pour détecter et supprimer les discours de haine et le contenu extrémiste

Réseaux sociaux

Facebook décrit les efforts en constante évolution pour détecter et supprimer les discours de haine et le contenu extrémiste

Au fur et à mesure que les médias sociaux se sont développés, sa capacité à promouvoir l’extrémisme et à connecter les utilisateurs avec des personnes partageant les mêmes idées qui soutiennent des idéaux antisociaux préjudiciables a également augmenté.

L’unité a toujours été la principale promesse des médias sociaux, facilitant une société plus connectée – et si, dans la plupart des cas, c’est un avantage positif, il est également possible que des personnes désillusionnées et mal orientées puissent se lier à des groupes haineux, et même se radicaliser grâce à leur activité en ligne. .

Cette affaire a été récemment présentée dans un article du New York Times, qui donnait un aperçu de la façon dont les recommandations de YouTube ont radicalisé essentiellement un jeune homme de Virginie-Occidentale. Cela peut commencer par une simple requête, puis devenir une boule de neige dans la haine totale, facilitant les divisions et la colère au sein de la société moderne.

C’est un sujet de préoccupation majeur pour toutes les plateformes, mais particulièrement pour Facebook, avec ses 2,7 milliards d’utilisateurs collectifs. Et cette semaine, The Social Network a fourni une mise à jour sur ses efforts en cours pour détecter et supprimer les discours de haine de ses plates-formes – et en particulier, comment son objectif pour ce contenu s’est étendu au-delà des groupes terroristes étrangers connus afin d’incorporer davantage de menaces locales. .

Tout d’abord, Facebook affirme avoir spécifiquement étendu son utilisation de la détection automatisée de contenu pour inclure les menaces terroristes locales et les groupes haineux, en plus des grandes organisations mondiales:

«Nous avons banni plus de 200 organisations suprémacistes blanches de notre plateforme, sur la base de nos définitions des organisations terroristes et des organisations haineuses, et nous utilisons une combinaison d’IA et d’expertise humaine pour supprimer le contenu louant ou soutenant ces organisations. l’utilisation de ces techniques a commencé à la mi-2018 et nous continuerons d’améliorer la technologie et les processus au fil du temps. « 

Fait important, Facebook note que sa définition d’un tel contenu est « sur la base de leur comportement, et non de leurs idéologies », ce qui a permis à Facebook d’adopter une approche plus générale de ce qui peut être défini comme du matériel lié au terrorisme.

Facebook a également développé son propre définition des organisations terroristes pour clarifier quels types de discussions et de messages entrent dans cette catégorie.

Politique de Facebook concernant les personnes et organisations dangereuses

« Nous cherchons toujours à voir où nous pouvons améliorer et affiner notre approche et nous avons récemment mis à jour la façon dont nous définissons les organisations terroristes en consultation avec des experts de la lutte contre le terrorisme, du droit international humanitaire, de la liberté d’expression, des droits de l’homme et des forces de l’ordre. La définition mise à jour se concentre toujours sur le comportement, et non sur l’idéologie, des groupes. Mais alors que notre définition précédente se concentrait sur les actes de violence destinés à atteindre un objectif politique ou idéologique, notre nouvelle définition délimite plus clairement que les tentatives de violence, en particulier lorsqu’elles sont dirigées contre des civils dans l’intention de contraindre et d’intimider, sont également admissibles. « 

Facebook cherche également à aider les gens à quitter les groupes haineux en fournissant des liens vers une assistance spécialisée, tout en disposant également d’une équipe de plus de 350 personnes, «avec une expertise allant de l’application de la loi et de la sécurité nationale, au renseignement antiterroriste et aux études universitaires sur la radicalisation», qui travaillent à l’élaboration de ses politiques et de ses mesures d’application.

Comme indiqué, il s’agit d’un domaine clé pour Facebook et tous les réseaux sociaux pour aller de l’avant. Une étape majeure, en réalité, a été la reconnaissance, l’acceptation du fait que les réseaux sociaux peuvent, en fait, faciliter, voire aggraver, les comportements antisociaux de cette manière. Maintenant que nous avons vu tous les effets de ces effets et les liens directs entre l’activité en ligne et les actes de la vie réelle, il est important que les plates-formes agissent et y remédient partout où elles le peuvent.

Espérons que les efforts de Facebook conduisent à une réduction de l’extrémisme violent sous toutes ses formes en ligne.

Erwan

Rédigé par

Erwan

Erwan, expert digital pour Coeur sur Paris, offre des insights pointus sur le marketing et les réseaux sociaux. Avec une plume vive et une analyse fine, il transforme les complexités du digital en conseils pratiques et tendances à suivre.