Cela semble … inquiétant. Les robots ont maintenant leur propre réseau social?
C’est à peu près ce que Facebook a créé – afin de tester plus précisément les vulnérabilités de sécurité et les actions potentiellement dangereuses, Facebook a développé un nouveau système appelé WES (Web-Enabled Simulation) qui utilise des bots modelés sur le comportement humain pour reproduire les modèles d’utilisation.
Selon Facebook:
« Les robots sont formés pour interagir les uns avec les autres en utilisant la même infrastructure que les vrais utilisateurs, afin qu’ils puissent envoyer des messages à d’autres robots, commenter les publications des robots ou publier les leurs, ou faire des demandes d’amis à d’autres robots. »
Et il y a beaucoup de robots qui interagissent sur la plateforme WES:
« WES est capable d’automatiser les interactions entre des milliers, voire des millions de robots. Nous utilisons une combinaison de simulation en ligne et hors ligne, entraînant des robots avec tout, des règles simples à l’apprentissage automatique supervisé en passant par l’apprentissage par renforcement plus sophistiqué. »
Cela fait un peu peur, non? Une société de profils de robots discutant entre eux. Tracer notre disparition.
Bien sûr, ils sont calqués sur le comportement humain, basés sur des publications Facebook, alors en réalité, ils ne font probablement que partager des GIF et discuter des théories du complot. Mais quand même, il y a quelque chose qui ne va pas bien.
Comme le dit Gru:
Mis à part les préoccupations, le véritable objectif du projet est, comme indiqué, de tester les vulnérabilités potentielles, afin de les détecter et de les résoudre avant qu’elles n’affectent de vraies personnes.
«Nous pouvons, par exemple, créer des robots IA réalistes qui cherchent à acheter des articles qui ne sont pas autorisés sur notre plate-forme, comme des armes à feu ou de la drogue. Étant donné que le robot agit dans la version de production réelle de Facebook, il peut effectuer des recherches, visiter des pages , envoyez des messages et prenez d’autres mesures comme le ferait une personne réelle. »
L’idée de la simulation n’est donc pas de laisser les robots développer leur propre réseau pour s’engager et interagir, mais c’est de reproduire le comportement réel des utilisateurs, aussi étroitement que robotiquement possible, afin d’aider Facebook à améliorer ses systèmes. Ce qui est beaucoup moins préoccupant – mais même ainsi, Facebook inclut quelques variantes de cette ligne dans son article sur le projet:
« Les robots ne peuvent pas interagir avec les utilisateurs réels de Facebook et leur comportement ne peut pas avoir d’impact sur l’expérience des utilisateurs réels sur la plate-forme. »
Nous sommes donc en sécurité, tout va bien, et c’est bien pour les robots d’avoir leur propre Facebook où ils peuvent interagir avec leur famille virtuelle et leurs amis. Mais quand même, avec l’avènement de l’IA, on se demande si permettre aux robots de développer une connexion émotionnelle est une bonne chose.
Les avantages du projet ont du sens, mais je veux voir de quoi, exactement, les robots discutent sur leur réseau social.
Vous pouvez en savoir plus sur le projet WES de Facebook ici.
