Facebook a mis à jour son système de file d’attente de modération de contenu, ce qui devrait conduire à des améliorations significatives pour traiter les pires cas et ralentir la propagation du contenu préjudiciable.
Le nouveau processus utilise des processus d’apprentissage automatique améliorés pour catégoriser le contenu signalé – comme expliqué par The Verge:
« Dans le passé, [Facebook’s] les modérateurs ont examiné les messages plus ou moins chronologiquement, en les traitant dans l’ordre dans lequel ils ont été signalés. Maintenant, Facebook dit qu’il veut s’assurer que les messages les plus importants sont vus en premier et utilise l’apprentissage automatique pour aider. À l’avenir, un amalgame de divers algorithmes d’apprentissage automatique sera utilisé pour trier cette file d’attente, en hiérarchisant les publications en fonction de trois critères: leur viralité, leur gravité et la probabilité qu’ils enfreignent les règles. «
Le processus garantira que l’équipe de modérateurs humains de Facebook est d’abord guidée vers les pires cas, en optimisant leur charge de travail et en limitant leur propagation, sur la base d’une détection automatisée.
Cela ne sera évidemment pas parfait. Il sera difficile pour tout système automatisé de déterminer l’ordre correct d’un tel système avec une précision de 100%, ce qui pourrait laisser certains des cas les plus préoccupants actifs plus longtemps que d’autres. Mais ce ne serait pas bien pire que la situation actuelle – et avec Facebook prenant en compte la « viralité », qui, vous supposeriez, prend en compte la portée potentielle de la publication, en fonction du suivi, de l’historique, etc. des utilisateurs de la publication. pourrait conduire à des améliorations significatives.
Facebook a subi des pressions importantes, dans divers cas, en raison de la lenteur de son temps de réponse pour traiter les contenus potentiellement dangereux.
En mai, une vidéo sur la théorie du complot « plandémique » a accumulé près de 2 millions de vues sur Facebook avant que l’entreprise ne la supprime, tandis qu’en juillet, Facebook a admis qu’elle « A pris plus de temps que prévu » pour supprimer une autre vidéo chargée de conspiration liée au COVID-19, qui a atteint 20 millions de vues avant que Facebook n’agisse.
Peut-être qu’avec ces nouvelles mesures en place, Facebook aurait donné plus de priorité à la suppression de ce contenu, étant donné le potentiel d’exposition généralisée via des pages et des personnes à forte portée, tandis que la détection de contenu basée sur la « gravité » pourrait également avoir des avantages significatifs. pour lutter contre les pires types de violations signalées sur son réseau.
Les systèmes automatisés de Facebook se sont certainement améliorés à cet égard. Dans sa plus récente Rapport d’application des normes communautaires, Facebook dit que 99,5% de ses actions liées à vUn contenu clair et graphique a été réalisé avant d’être signalé par les utilisateurs.
Désormais, ces mêmes systèmes de détection seront utilisés pour catégoriser tous les rapports de modération, et à mesure que les systèmes de Facebook continuent de s’améliorer, cela pourrait entraîner une réduction significative de l’impact lié au contenu concerné dans l’application.
À certains égards, il semble que Facebook aurait toujours dû mettre en place une forme de hiérarchisation comme celle-ci, mais il est possible que ses systèmes n’aient tout simplement pas été capables de filtrer à ce niveau jusqu’à présent. Quoi qu’il en soit, il est désormais en mesure d’améliorer ses processus, ce qui pourrait avoir des avantages majeurs pour la sécurité des utilisateurs.
