En novembre, Facebook a cherché à répondre aux préoccupations croissantes selon lesquelles leurs produits publicitaires hyper-ciblés pourraient être utilisés de manière discriminatoire :
« Les décideurs politiques et les responsables des droits civiques ont exprimé leurs craintes que les annonceurs puissent abuser de certains aspects de nos segments de marketing d’affinité. Plus précisément, ils ont évoqué la possibilité que certains annonceurs puissent utiliser ces segments pour diffuser des publicités discriminatoires à l’encontre des personnes, en particulier dans ont historiquement été confrontés à la discrimination – logement, emploi et octroi de crédit. »
La question a été soulevée en réponse à un article publié par ProPublica qui montrait que les annonceurs pouvaient créer des publicités Facebook excluant les personnes en fonction de la race, du sexe et d’autres facteurs sensibles – des restrictions interdites par la loi fédérale en matière de logement et d’emploi.
Facebook a pris des mesures immédiates, désactivant l’utilisation du marketing d’affinité ethnique pour certaines publicités et mettant à jour ses politiques publicitaires pour les rendre plus explicites en ce qui concerne les approches publicitaires discriminatoires.
Et cette semaine, Facebook a annoncé ses dernières mesures pour éliminer un tel comportement, avec des politiques récemment mises à jour et l’ajout de nouveaux outils d’application pour détecter et supprimer de telles actions.
Tout d’abord, Facebook a de nouveau mis à jour ses politiques publicitaires pour souligner davantage sa position contre la discrimination dans le ciblage publicitaire.
« Nous indiquons clairement que les annonceurs ne peuvent pas discriminer les personnes en fonction d’attributs personnels tels que la race, l’origine ethnique, la couleur, l’origine nationale, la religion, l’âge, le sexe, l’orientation sexuelle, l’identité de genre, la situation familiale, le handicap, la condition médicale ou génétique. »
Facebook a également ajouté de nouveaux liens vers des ressources dans sa documentation politique, qui fournissent des documents de référence supplémentaires provenant d’agences gouvernementales et de groupes de défense des droits civiques spécialisés dans la lutte contre la discrimination.
En plus de cela, Facebook se tourne également vers des algorithmes pour identifier les violations potentielles de leurs politiques révisées.
« Nous commençons à tester une nouvelle technologie qui exploite l’apprentissage automatique pour nous aider à identifier les annonces qui offrent des opportunités de logement, d’emploi ou de crédit – les types d’acteurs de la publicité nous ont dit qu’ils étaient préoccupés. Cela nous permettra de fournir plus rapidement des avis et des informations informations aux annonceurs – et répondre plus rapidement aux violations de notre politique. »
Il n’est pas surprenant que Facebook se tourne vers l’IA et l’apprentissage automatique à cette fin, la plate-forme s’appuie de plus en plus sur des algorithmes pour détecter divers comportements des utilisateurs – à la fois positifs et négatifs. En effet, Facebook dépend désormais fortement des systèmes d’apprentissage automatique pour détecter et éliminer les contenus répréhensibles – comme le rapporte Ars Technica :
« Dans le passé, les utilisateurs étiquetaient ces images comme étant répréhensibles, et ces informations étaient transmises à l’équipe Protect and Care. Les images confirmées répréhensibles ont été supprimées par un membre de l’équipe. Ensuite, des modèles d’apprentissage automatique ont été créés pour identifier et supprimer ces images. En 2015, les modèles ML ont examiné et éliminé plus de ces images que les gens. Désormais, le groupe Protect and Care crée indépendamment de nouveaux classificateurs pour identifier de nouveaux types de matériel répréhensible et recycler les modèles pour y répondre automatiquement. «
Au fur et à mesure que ces systèmes deviennent plus avancés, leurs applications potentielles se développent, et vous pouvez vous attendre à ce que Facebook continue à utiliser ces outils dans une capacité similaire à l’avenir.
Facebook s’apprête également à ajouter un système d’avertissement et d’examen pour les contrevenants potentiels
« Lorsqu’un annonceur tente de diffuser une annonce que nous identifions comme offrant une opportunité de logement, d’emploi ou de crédit et inclut ou exclut nos segments publicitaires multiculturels – qui consistent en des personnes intéressées à voir du contenu lié aux communautés afro-américaines, américaines d’origine asiatique et hispaniques américaines – nous désapprouverons l’annonce. »
Ils ajoutent également un processus d’auto-certification pour s’assurer qu’ils se conforment aux lois anti-discrimination applicables.
Facebook dit avoir travaillé avec des décideurs politiques et des leaders des droits civiques sur les changements, et avec d’autres organisations des secteurs public et privé pour s’assurer qu’elles maintiennent la capacité d’atteindre des groupes spécifiques avec des informations sur les produits, les services et les causes qu’ils pourraient trouver pertinents , tout en protégeant contre les utilisations discriminatoires.
L’impact de ces changements devrait être assez limité et assez évident pour les annonceurs concernés.
Les nouveaux changements sont maintenant en ligne pour tous les annonceurs Facebook.
