Le conseil de surveillance de Meta a critiqué le système de modération différenciée de la société pour les utilisateurs de haut niveau, qui peuvent parfois voir du contenu enfreignant les règles de célébrités et de politiciens laissé sur la plate-forme pendant des mois, tandis que pour les utilisateurs réguliers, le même serait supprimé en quelques jours.
Les commentaires font partie de l’examen par le comité de surveillance du système de « vérification croisée » de Meta, qui ajoute une couche supplémentaire de modération pour les utilisateurs de haut niveau.
Voici comment cela fonctionne – avec Meta supervisant plus de 100 millions d’actions d’application chaque jour, il est inévitable que certaines choses passent entre les mailles du filet et que certains contenus soient supprimés ou laissés en place alors qu’ils n’auraient pas dû l’être. Parce que les utilisateurs de haut niveau ont généralement un public beaucoup plus large dans l’application, et donc, ce qu’ils disent peut avoir plus de poids, Meta a mis en place un système de modération spécialisé supplémentaire qui vérifie les décisions d’application pour ces utilisateurs.
En d’autres termes, les célébrités sont tenues à une norme différente de celle des utilisateurs réguliers en ce qui concerne la modération de leur contenu dans l’application. Ce qui n’est pas juste, mais encore une fois, étant donné leur audience plus large, il y a une certaine logique dans l’approche de Meta à cet égard.
Tant que cela fonctionne comme prévu.
L’année dernière, le Wall Street Journal a découvert ce processus alternatif pour les célébrités et a mis en évidence les failles du système qui peuvent effectivement voir des utilisateurs de haut niveau tenus à une norme différente et laissés essentiellement non modérés tandis que d’autres voient des commentaires similaires supprimés. Cela a ensuite incité Meta à renvoyer son système de vérification croisée à son conseil de surveillance, pour décider s’il s’agit d’une approche juste et raisonnable, ou si quelque chose de plus pourrait et/ou devrait être fait pour améliorer son système.
Et aujourd’hui, le Conseil de surveillance a partagé ses principales recommandations pour la mise à jour de Cross Check :
Ses commentaires supplémentaires étaient assez critiques – selon le Conseil de surveillance :
« Bien que Meta ait déclaré au Conseil d’administration que la contre-vérification vise à faire progresser les engagements de Meta en matière de droits de l’homme, nous avons constaté que le programme semble plus directement structuré pour répondre aux préoccupations des entreprises. BEn offrant une protection supplémentaire à certains utilisateurs sélectionnés en grande partie en fonction d’intérêts commerciaux, la contre-vérification permet à un contenu qui serait autrement supprimé rapidement de rester actif plus longtemps, ce qui pourrait causer un préjudice.
Dans son analyse, le Conseil de surveillance indépendant a constaté que le système de vérification croisée était défectueux dans plusieurs domaines, notamment :
- Retard de suppression du contenu en infraction
- Accès inégal aux politiques discrétionnaires et à leur application
- Échec du suivi des métriques de base
- Manque de transparence sur le fonctionnement de Cross Check
En raison de l’approche d’application différenciée, le Conseil de surveillance a recommandé que Meta réorganise le système de vérification croisée et fournisse plus d’informations sur son fonctionnement, afin de garantir que les célébrités ne soient pas tenues à une norme différente de celle des utilisateurs réguliers.
Ce qui est conforme à la plupart des recommandations du Conseil de surveillance. Un thème clé et récurrent de toutes ses critiques est que Meta doit être plus ouvert dans son fonctionnement et dans la façon dont il gère les systèmes avec lesquels les gens interagissent au quotidien.
Vraiment, c’est la clé de beaucoup de problèmes actuels – si les plateformes sociales étaient plus ouvertes sur la façon dont leurs algorithmes influencent ce que vous voyez, comment leurs recommandations guident votre comportement dans l’application et comment elles décident ce qui est et n’est pas acceptable, cela rendrait beaucoup plus facile, et plus défendable, lorsque des actions sont prises par chacun.
Mais en même temps, être totalement ouvert pourrait également inciter à un comportement encore plus limite. Le PDG de Meta, Mark Zuckerberg, a précédemment noté que :
« … si rien n’est fait, les gens s’engageront de manière disproportionnée avec un contenu plus sensationnaliste et provocateur. Nos recherches suggèrent que peu importe où nous traçons les limites de ce qui est autorisé, à mesure qu’un élément de contenu se rapproche de cette ligne, les gens s’y engageront davantage en moyenne, même s’ils nous disent par la suite qu’ils n’aiment pas le contenu. ”
Peut-être qu’en étant plus ouvert sur les détails, cela pourrait inciter davantage d’utilisateurs, soucieux de maximiser l’engagement, à repousser leurs limites, tandis que des détails améliorés pourraient également offrir plus d’opportunités aux escrocs et aux spammeurs d’entrer dans les mailles du filet, ce qui est probablement plus difficile si Meta ne communique pas les détails.
Mais du point de vue des règles, Meta doit avoir des politiques plus spécifiques et des explications plus spécifiques qui détaillent les violations. Il s’est amélioré sur ce front, mais encore une fois, le Conseil de surveillance a noté à plusieurs reprises qu’il fallait plus de contexte, avec plus de transparence dans ses décisions.
Je suppose que l’autre considération ici est le temps de travail et la capacité de Meta à fournir un tel aperçu à une échelle de 2 milliards d’utilisateurs et des millions de violations chaque jour.
Il n’y a pas de réponses faciles, mais encore une fois, la recommandation fondamentale du conseil de surveillance est que Meta doit fournir plus d’informations, là où c’est possible, pour s’assurer que tous les utilisateurs comprennent les règles et que tout le monde est ensuite traité de la même manière, célébrité ou ne pas.
Vous pouvez en savoir plus sur les recommandations du Conseil de surveillance ici.
