Facebook a publié la dernière version de son Rapport d’application des normes communautaires, qui décrit toutes les violations de politiques et de règles pour lesquelles Facebook a pris des mesures, à la fois sur Facebook et Instagram, au cours des trois mois précédents.
La dernière version du rapport utilise une nouvelle mise en page pour présenter les données, qui est essentiellement une grande page de graphiques.
Ce qui est un peu difficile à suivre – nous avons décomposé certaines des notes clés des données ci-dessous pour mettre en évidence les derniers changements, bien qu’il soit également intéressant de noter que les efforts d’application de Facebook au cours du dernier trimestre ont été touchés par des changements de personnel en raison de COVID-19[FEMININE
En mars, Facebook a fermé ses centres de modération en raison des verrouillages mondiaux, qui ont réduit sa capacité d’intervention humaine de quelque 35 000 travailleurs. Facebook a depuis rouvert la plupart de ses installations d’exploitation et s’efforce de revenir à sa pleine capacité, mais pendant la majorité des mois précédents, une grande partie de son travail de modération était régie par ses systèmes de détection d’IA.
Ce qui a eu des effets variés.
« WAvec moins de critiques de contenu, nous avons pris des mesures sur moins de contenus sur Facebook et Instagram pour le suicide et l’automutilation, ainsi que la nudité infantile et l’exploitation sexuelle sur Instagram. Malgré ces baisses, nous avons priorisé et pris des mesures sur le contenu le plus dangereux de ces catégories. […] Le nombre d’appels est également beaucoup plus faible dans ce rapport car nous ne pouvions pas toujours les proposer. »
Dans cet esprit, voici quelques notes clés du dernier rapport sur l’application des normes communautaires.
Tout d’abord, Facebook a pris beaucoup plus de mesures contre les discours de haine au cours du trimestre – jusqu’à presque 10x sur la même période en 2018.
Facebook attribue cela aux améliorations apportées à sa technologie et à l’extension de sa détection à plus de langues.
«Notre taux de détection proactive des discours de haine sur Facebook a augmenté de 6 points, passant de 89% à 95%. À son tour, la quantité de contenu sur laquelle nous avons pris des mesures est passée de 9,6 millions au premier trimestre à 22,5 millions au deuxième trimestre. notre technologie d’automatisation en espagnol, arabe et indonésien et nous avons amélioré notre technologie de détection en anglais au premier trimestre. «
Comme vous vous en souvenez peut-être, Facebook a fait l’objet d’un boycott massif des annonceurs le mois dernier en raison de son inaction perçue dans la lutte contre les discours de haine. Selon ces chiffres, ce n’est pas correct – ce qui suggérerait alors que la manifestation portait plus spécifiquement sur les commentaires du président américain Donald Trump et la décision de Facebook de ne pas les supprimer, que sur le discours de haine plus généralement.
C’est toujours une préoccupation importante – les commentaires du président Trump ont beaucoup plus de portée et d’influence que pratiquement n’importe qui d’autre. Mais tout de même, il convient de noter, pour le contexte, que Facebook prend de plus en plus de mesures à ce sujet, ce qui semble être un signe positif.
Il convient également de noter que Facebook envisage d’éventuelles restrictions sur les groupes liés à QAnon, tout en supprimant un groupe de pages liées à des groupes extrémistes aux États-Unis en juin.
Sur Instagram, les systèmes de Facebook améliorent également la détection et la suppression de la nudité et du contenu pour adultes.
Bien que ses systèmes détectent également davantage de discours de haine sur cette plate-forme.
Et le contenu des organisations dangereuses est également supprimé plus souvent sur Instagram – ce qui pourrait également suggérer que davantage de ces groupes se tournent vers l’application pour diffuser leurs messages.
Ou, encore une fois, Facebook s’améliore tout simplement pour le détecter. Quoi qu’il en soit, plus de suppressions est évidemment un meilleur résultat global.
En termes de faux profils, Facebook a signalé peu de changement dans la quantité de faux qu’il trouve sur ses plates-formes, les faux comptes représentant encore environ 5% de sa base d’utilisateurs globale.
Facebook a présenté des améliorations à son processus de détection des faux comptes en avril, mais comme nous l’avons noté à l’époque, il ne sera peut-être jamais en mesure de revenir à zéro sur ce front en raison des arnaqueurs mettant à jour leurs tactiques conformément aux mises à jour du système de Facebook. 5% est en fait, probablement, le meilleur des cas – ce qui signifie qu’il y a plus de 125 millions de faux profils actifs sur la plateforme à tout moment.
La plupart des autres chiffres rapportés par Facebook sont conformes aux moyennes en cours – bien que les préoccupations en matière d’intimidation et de harcèlement aient augmenté sur Instagram.
Cela peut être dû à des voies d’appel limitées, qui ont vu davantage de ces réclamations confirmées au cours du trimestre, de sorte que certains des points de données comme celui-ci ont été touchés en raison des répercussions et des changements de personnel accrus.
Dans l’ensemble, cependant, les données suggèrent que Facebook fait plus pour répondre à certains domaines clés de préoccupation. Et Facebook cherche à aller plus loin, en commandant un audit indépendant de ses processus pour s’assurer qu’il fait tout ce qu’il peut pour refléter les bonnes données dans ses rapports trimestriels.
Encore une fois, les impacts de l’arrêt du COVID-19 ont influencé certains des points de données ici, mais il convient de noter où en est Facebook dans ces domaines et comment il travaille continuellement pour résoudre les problèmes.
Vous pouvez lire le rapport complet sur l’application des normes communautaires de Facebook ici.
