Instagram décrit les étapes pour lutter contre les domaines potentiels d’inégalités raciales sur sa plate-forme

La semaine dernière, le chef d’Instagram, Adam Mosseri, a publié une vidéo sur son fil Instagram dans laquelle il semblait particulièrement ému à propos des manifestations #BlackLivesMatter aux États-Unis.

Mosseri, en général, est un personnage assez calme et recueilli, et montre rarement beaucoup d’émotion dans ses messages et présentations. Mais il avait l’impression que ce problème l’avait vraiment touché et qu’il voulait faire plus pour répondre aux préoccupations notées. Et aujourd’hui, Mosseri a expliqué comment, exactement, il prévoit de faire exactement cela.

Dans un nouveau post, Mosseri discute du rôle qu’Instagram a joué jusqu’à présent dans le mouvement #BlacLivesMatter, tout en notant que, dans certains domaines, la plate-forme a échoué.

« Nous entendons nous demander si nous supprimons les voix noires et si nos produits et nos politiques traitent tout le monde de la même manière. L’ironie du fait que nous sommes une plate-forme qui représente l’élévation des voix noires, mais en même temps, les Noirs sont souvent harcelés, effrayés être « banni de l’ombre », et être en désaccord avec de nombreuses suppressions de contenu, n’est pas perdu pour moi. C’est un moment où les gens du monde entier exigent à juste titre des actions plutôt que des mots, et nous devons la même chose à notre communauté. « 

Face à ces préoccupations, Mosseri a décrit quatre étapes qu’Instagram prendra pour améliorer la représentation raciale et l’égalité sur sa plate-forme.

1. Harcèlement – Mosseri dit qu’Instagram cherchera à combler les lacunes potentielles dans ses politiques qui pourraient voir différents groupes subir plus de harcèlement et d’abus
2. Vérification de compte – Mosseri dit qu’Instagram réévaluera également son processus de vérification pour s’assurer qu’il n’y a pas de biais endémique dans la façon dont la vérification est attribuée et approuvée. « La vérification est un domaine sur lequel nous nous posons constamment des questions – quelles sont les lignes directrices et si les critères favorisent ou non certains groupes plus que d’autres. »
3. Distribution – Mosseri dit également qu’Instagram passera en revue ses politiques de contenu pour s’assurer qu’il n’y a pas de biais inhérent à la façon dont le contenu est choisi pour ses pages Explore et Hashtag. Mosseri dit également qu’il enquêtera sur le « shadowbanning », qui voit le contenu obtenir moins d’exposition sans explication sur le comment ou le pourquoi. « Bientôt, nous publierons plus d’informations sur les types de contenu que nous évitons de recommander sur Explore et d’autres endroits ».
4. Biais algorithmique – Et enfin, Mosseri dit qu’ils examineront leurs algorithmes pour éviter de répéter des modèles, comme les préjugés raciaux, qui sont institués sur la base d’entrées biaisées. «Alors que nous faisons beaucoup de travail pour aider à prévenir les biais subconscients dans nos produits, nous devons examiner de plus près les systèmes sous-jacents que nous avons construits et les domaines dans lesquels nous devons faire plus pour éviter les biais dans ces décisions».

Le dernier point est une note clé soulignée par pratiquement tous les universitaires en IA et en apprentissage automatique. Parce que les données d’entrée sont souvent déjà entachées de biais comportementaux, basés sur les actions des personnes, ces mêmes tendances sont intrinsèquement intégrées dans les systèmes, ce qui signifie que nous ne pouvons pas échapper aux préjugés raciaux même si les humains ne le font pas. pensée.

C’est un problème important à résoudre, et les solutions ne seront pas faciles. Mais c’est un élément important, et il est bon de voir Mosseri l’évoquer comme quelque chose qu’il envisage de prendre sur Instagram.

Bien que Mosseri note également qu’il faudra du temps pour enquêter et mettre en œuvre les modifications ultérieures:

« Nous allons fournir des mises à jour au cours des prochains mois – à la fois sur ce que nous apprenons et ce que nous abordons. Ces efforts ne s’arrêteront pas avec les disparités que les gens peuvent rencontrer uniquement sur la base de la race; nous allons également regarder comment nous pouvons mieux servir d’autres groupes sous-représentés qui utilisent notre produit. »

Les problèmes que Mosseri met en évidence ici sont en fait tous très techniques et, en grande partie, difficiles à résoudre, car ils nécessitent une évaluation plus approfondie de la logique acceptée et verront Instagram chercher à chercher au-delà de ce que les données des utilisateurs lui indiquent. C’est généralement la position de Facebook sur la plupart des éléments comme celui-ci – ce n’est à personne de décider, par exemple, ce qui attire et ce qui échoue sur Facebook, cela revient aux gens, notre activité dicte ce qu’est Facebook. Le système n’est qu’un hôte, un miroir de la société telle qu’elle est réellement.

Avec ces enquêtes, Mosseri cherche à creuser plus profondément que cela et à utiliser au moins Instagram, moins comme un miroir et plus comme une vue sur la façon dont les choses devraient être, dans un monde plus égal et équilibré.

Bien que Mosseri les ait résumés en quelques points assez courts, le travail réel requis est très approfondi, très difficile. Et cela pourrait bien finir par être extrêmement important – à la fois pour Instagram et Facebook plus largement.