Alors que X a récemment fait l’objet d’un examen minutieux en raison de ses prétendus échecs de modération de contenu, Meta est également confrontée à ses propres questions sur la façon dont ses systèmes parviennent à protéger les utilisateurs, en particulier les jeunes, ainsi que sur l’exactitude de ses rapports externes à ce sujet.
Selon un nouveau plainte non scellée contre la société, déposée au nom de 33 États, Meta a dénaturé à plusieurs reprises les performances de ses équipes de modération via ses rapports d’application des normes communautaires, qui, selon de nouvelles conclusions, ne reflètent pas les propres données internes de Meta sur les violations.
Comme le rapporte Business Insider :
« Les rapports (Meta) sur l’application des normes communautaires vantent de faibles taux de violations des normes communautaires sur ses plateformes, mais excluent les données clés des enquêtes sur l’expérience utilisateur qui mettent en évidence des taux beaucoup plus élevés de rencontres d’utilisateurs avec du contenu préjudiciable. Par exemple, Meta affirme que pour 10 000 vues de contenu sur ses plateformes, seulement 10 ou 11 contiendraient des propos haineux. Mais la plainte indique qu’une enquête interne auprès des utilisateurs de Meta, connue sous le nom de Tracking Reach of Integrity Problems Survey, a rapporté qu’en moyenne 19,3 % des utilisateurs d’Instagram et 17,6 % des utilisateurs de Facebook ont déclaré avoir été témoins de discours de haine ou de discrimination sur les plateformes.
En ce sens, Meta utilise apparemment une loi des moyennes pour atténuer de tels incidents, en collectant un plus petit nombre de rapports et en les divisant en fonction de sa base d’utilisateurs massive. Mais les retours réels des utilisateurs indiquent que cette exposition est beaucoup plus élevée. Ainsi, même si les données plus larges suggèrent des taux très faibles, l’expérience utilisateur est évidemment différente.
La plainte allègue que Meta le sait, mais qu’elle a présenté publiquement ces statistiques alternatives comme un moyen de réduire la surveillance et de donner un faux sentiment de sécurité dans ses applications et son approche en matière de sécurité des utilisateurs.
Dans un élément potentiellement encore plus troublant de la même plainte, Meta aurait également reçu plus de 1,1 million de rapports d’utilisateurs de moins de 13 ans accédant à Instagram depuis début 2019, mais il n’a désactivé « qu’une fraction de ces comptes ».
Les allégations ont été présentées dans le cadre de un procès fédéral déposée le mois dernier auprès du tribunal de district américain du district nord de Californie. S’il s’avère que Meta enfreint les lois sur la protection de la vie privée à la suite de ces allégations, elle pourrait se voir imposer d’énormes amendes et faire l’objet d’un examen plus approfondi concernant ses mesures de protection et de modération, en particulier en ce qui concerne l’accès des utilisateurs plus jeunes.
En fonction des résultats, cela pourrait avoir un impact majeur sur les activités de Meta, tout en permettant également d’obtenir des informations plus précises sur les taux réels d’exposition et les dommages potentiels au sein des applications de Meta.
En réponse, Meta déclare que la plainte dénature son travail en « utilisant des citations sélectives et des documents triés sur le volet ».
C’est un autre défi pour l’équipe de Meta, qui pourrait remettre en avant Zuck and Co. en matière de modération et d’exposition efficaces, tout en conduisant également à la mise en œuvre de réglementations encore plus strictes concernant les jeunes utilisateurs et l’accès aux données.
Cela pourrait éventuellement amener les États-Unis à se conformer davantage aux règles européennes plus restrictives.
En Europe, la nouvelle loi sur les services numériques (DSA) comprend une série de dispositions destinées à protéger les jeunes utilisateurs, notamment l’interdiction de collecter des données personnelles à des fins publicitaires. Des restrictions similaires pourraient résulter de cette nouvelle poussée américaine, même s’il reste à voir si la plainte donnera suite et comment Meta cherchera à y répondre.
Mais en réalité, il n’est pas surprenant que tant de jeunes accèdent à Instagram à un rythme aussi élevé.
L’année dernière, un rapport de Common Sense Media a révélé que 38 % des enfants âgés de 8 à 12 ans utilisaient quotidiennement les réseaux sociaux, un chiffre en constante augmentation au fil du temps. Et tandis que Meta a cherché à mettre en œuvre de meilleures mesures de détection de l’âge et de sécurité, de nombreux enfants accèdent toujours aux versions adultes de chaque application, en indiquant simplement une année de naissance différente dans de nombreux cas.
Bien entendu, il incombe également aux parents de surveiller le temps d’écran de leur enfant et de s’assurer qu’il ne se connecte pas à des applications qu’il ne devrait pas utiliser. Mais si une enquête montre effectivement que Meta a sciemment autorisé cela, cela pourrait entraîner toute une série de nouvelles complications, pour Meta et plus largement pour le secteur des médias sociaux.
Il sera intéressant de voir où mène la plainte et quels renseignements supplémentaires nous obtiendrons sur les mesures de signalement et de protection de Meta.
