Après avoir développé le système en partenariat avec le ministère de la Justice pendant plus d’un an, Meta a maintenant publié la première étape de déploiement en direct pour son Variance Reduction System (VRS) pour les annonces immobilièresqui est conçu pour réduire les préjugés et augmenter la distribution équitable des publicités dans les applications de Meta.
Comme expliqué dans cet aperçu, le système VRS de Meta mesure la portée réelle de l’audience pour chaque annonce et assure une diffusion plus large de l’exposition, en fonction de divers facteurs d’audience.
Comme l’explique Meta :
« Le VRS utilise une nouvelle technologie d’apprentissage automatique dans livraison d’annonces afin que l’audience réelle qui voit une publicité reflète plus fidèlement l’audience cible éligible pour cette publicité. Une fois que l’annonce a été diffusée auprès d’un groupe de personnes suffisamment important, le VRS mesure la répartition démographique globale de ceux qui ont vu l’annonce pour comprendre comment cette audience se compare à la répartition démographique de l’audience cible éligible sélectionnée par l’annonceur.
Essentiellement, le système garantit que les annonces immobilières ne sont pas limitées à certains groupes ethniques ou socio-économiques par le processus d’IA de ciblage publicitaire de Meta, en mesurant l’exposition globale de l’annonce et en la comparant aux données d’audience basées sur les statistiques du recensement américain sur la race et l’ethnicité.
« Cette méthode est construite avec des améliorations de confidentialité supplémentaires, y compris confidentialité différentielleune technique qui peut aider à protéger contre la ré-identification d’individus dans des ensembles de données agrégés.
Le système est le dernier né des efforts de Meta pour répondre aux préoccupations réglementaires concernant ses outils de ciblage publicitaire et le potentiel d’exclusion basé sur les milliers de facteurs de ciblage disponibles dans l’application.
Meta a fait l’objet d’un examen approfondi sur son ciblage publicitaire variable dans le passé.
En 2017, une enquête de ProPublica a révélé que les annonceurs ont pu créer des publicités Facebook qui excluaient les personnes en fonction de facteurs sensibles – des restrictions interdites par la loi fédérale en matière de logement et d’emploi.
Comme indiqué dans la vidéo ci-dessus, Meta a ensuite supprimé diverses options de ciblage publicitaire pour les annonces de logement, d’emploi et de crédit en 2019. Le processus VRS est la prochaine étape de son travail en cours sur ce front. Et bien que ses systèmes de ciblage publicitaire, dans l’ensemble, aient également été touchés par les changements apportés à la collecte et au suivi des données, les nouvelles mesures fourniront plus d’assurance que ses publicités ne facilitent pas le profilage indirect de certains groupes, en élargissant l’exposition à tous les segments d’audience.
Garantir l’équité dans l’IA est un domaine complexe, surtout si l’on considère que la majorité des entrées utilisées pour alimenter les modèles d’IA incluent souvent déjà un certain biais implicite. Chaque plate-forme s’efforce d’atténuer cela et de créer de nouvelles pondérations pour filtrer les impacts inconscients et involontaires. Mais il faudra du temps pour mesurer la cause et l’effet de chaque mise à jour, Meta surveillant maintenant la première étape de ce déploiement et glanant des commentaires sur les performances pour mettre à jour ses modèles VRS.
Il y a beaucoup à faire – vous pouvez en savoir plus sur les considérations techniques en jeu dans ce livre blanc, qui décrit le fonctionnement du système VRS et les différents éléments qu’il s’efforce d’équilibrer.
« Le domaine de l’équité dans l’apprentissage automatique est un domaine dynamique et évolutif, et les changements décrits dans ce document représentent plusieurs années de progrès en consultation avec un large éventail de parties prenantes. Une grande partie de ce travail est sans précédent dans l’industrie de la publicité et représente une avancée technologique significative dans la manière dont l’apprentissage automatique est utilisé de manière responsable pour diffuser des publicités personnalisées. Nous sommes ravis d’être les pionniers de cet effort, et nous espérons qu’en partageant le contexte et les détails clés sur la façon dont nous abordons ce défi multidimensionnel, d’autres praticiens de l’IA et de la publicité numérique pourront plus facilement adopter et prendre des mesures similaires pour aider à prévenir la discrimination et éviter d’amplifier les préjugés sociétaux. dont l’impact s’étend bien au-delà de n’importe quelle plate-forme.
Meta indique que la phase initiale du déploiement de VRS se concentrera sur les annonces immobilières aux États-Unis, avec des annonces de crédit et d’emploi à suivre.
