.jpg)
Un ingénieur de Google s’est excusé après qu’une application automatisée Google Photos ait étiqueté une photo de deux personnes noires comme contenant des « gorilles ». Les problèmes ont commencé lorsque Jacky Alciné a découvert que les photos qu’il avait téléchargées sur l’application l’étiquetaient constamment de manière erronée, lui et son ami.
Il a tweeté le problème sur Google et, à leur crédit, L’architecte social en chef de Google Yonatan Zunger répondu rapidement avec des excuses. Alciné est lui-même programmeur informatique et, dans un tweet séparé, a déclaré que même s’il comprenait comment quelque chose comme ça pourrait arriver, mais qu’il voulait savoir Pourquoi.
Selon The Verge, l’application photo de Google est à la fois une application d’apprentissage et une toute nouvelle. L’application étiquette actuellement ce qu’elle pense est en photos, mais se familiarise encore avec les formes et les nuances des objets. Ce n’est pas le seul problème que l’application a eu pour étiqueter des choses, juste le plus flagrant et le plus inapproprié. Et ce n’est pas un problème nouveau.
Même avant l’ère de la photographie numérique, le film Kodak était connu pour le parti pris qu’il avait contre la capture correcte de la peau foncée. Des caméras point-and-shoot avec un logiciel de reconnaissance faciale demanderaient si les Asiatiques avaient cligné des yeux. Et maintenant, à l’ère des images presque illimitées qui sont classées par des algorithmes, nous allons inévitablement voir des erreurs d’étiquetage qui offensent et embarrassent.
via Shutterstock
Ce n’est pas ici le lieu d’aborder les problèmes plus profonds de préjugés et de privilèges non intentionnels qui ont contribué à créer ces problèmes, mais, pour moi, le problème est certainement un exemple de la difficulté et des dangers qui accompagnent notre monde de plus en plus automatisé.
Un exemple bénin de ma propre vie est le navigateur Chrome de Google, qui a récemment été mis à jour pour essayer de catégoriser automatiquement les nouveaux signets. Pour moi, il était incapable de faire la différence entre les pages d’accueil des artistes et l’art réel qu’ils créaient. Et ce genre de choses arrive tout le temps. Le logiciel de reconnaissance vocale Siri d’Apple a eu beaucoup de mal à déchiffrer les accents écossais, ou, encore une fois, l’application Google Photos qualifiait à tort les chiens de chevaux.
Alors que le monde, par nécessité, devient de plus en plus automatique et basé sur le tri algorithmique, nous allons voir de plus en plus de ces problèmes surgir. À un certain moment, nous devrions être en mesure de prédire quand cela se produira, avant que notre gêne occasionnelle ne devienne une honte plus permanente.
