Meta devrait être à nouveau sur l'examen réglementaire, après avoir signalé qu'il n'a pas réussi à répondre aux problèmes de sécurité avec ses projets IA et VR.

Tout d'abord, sur l'IA, et ses outils de fiançailles en évolution de l'IA. Au cours des dernières semaines, Meta a été accusée d'avoir permis à ses chatbots d'IA de s'engager dans des conversations inappropriées avec des mineurs et de fournir des informations médicales trompeuses, car elle cherche à maximiser le prise de ses outils de chatbot.

Une enquête de Reuters a révélé une méta-documentation interne qui permettrait essentiellement à de telles interactions de se produire, sans intervention. Meta a confirmé que de telles directives existaient dans sa documentation, mais il a depuis mis à jour les règles pour résoudre ces éléments.

Bien que cela ne soit pas suffisant pour au moins un sénateur américain, qui a appelé à Meta à interdire l'utilisation de ses chatbots d'IA par des mineurs.

Comme l'a rapporté NBC News:

« Le sénateur Edward Markey a déclaré que (Meta) aurait pu éviter le contrecoup si seulement il avait écouté son avertissement il y a deux ans. En septembre 2023, Markey a écrit Une lettre à Zuckerberg Le fait de permettre aux adolescents d'utiliser des chatbots d'IA «  suralimenter '' les problèmes existants avec les médias sociaux et posait trop de risques. Il a exhorté l'entreprise à suspendre la libération des chatbots d'IA jusqu'à ce qu'il ait une compréhension de l'impact sur les mineurs. »

Ce qui, bien sûr, est une préoccupation que beaucoup ont soulevé.

La plus grande préoccupation concernant le développement accéléré de l'IA et d'autres technologies interactives est que nous ne comprenons pas pleinement quels pourraient les impacts de leur utilisation. Et comme nous l'avons vu avec les médias sociaux, que de nombreuses juridictions tentent maintenant de restreindre les adolescents plus âgés, l'impact de tel public peut être important, et il serait préférable d'atténuer ce préjudice à l'avance, au lieu d'essayer de s'y attaquer rétrospectivement.

Mais les progrès l'emportent généralement dans de telles considérations, et avec les entreprises technologiques américaines soulignant le fait que la Chine et la Russie développent également l'IA, les autorités américaines semblent peu de choses à mettre en œuvre des restrictions importantes sur le développement ou l'utilisation de l'IA pour le moment.

Ce qui conduit également à une autre préoccupation à égalité à Meta.

Selon un nouveau rapport du Washington Post, Meta a ignoré et / ou a cherché à supprimer les rapports des enfants proposés sexuellement dans ses environnements VR, alors qu'il continue d'étendre son expérience sociale VR.

Le rapport suggère que Meta s'est engagée dans un effort concerté pour enterrer de tels incidents, bien que Meta ait répondu en notant qu'il a approuvé 180 études différentes dans Sécurité et bien-être des jeunes dans ses expériences de niveau suivant.

Ce n'est pas la première fois que des inquiétudes sont soulevées concernant les impacts de la santé mentale de la réalité virtuelle, l'environnement numérique plus immersif susceptible d'avoir un impact encore plus significatif sur la perception des utilisateurs que les applications sociales.

Divers Les utilisateurs d'horizon VR ont signalé des incidents d'agression sexuelle, même viol virtueldans l'environnement VR. En réponse, Meta a ajouté de nouveaux éléments de sécurité, comme des limites personnelles pour restreindre le contact indésirable, bien que même avec des outils de sécurité supplémentaires en place, il est impossible pour Meta de contrer ou de rendre compte de tous les impacts à ce stade.

Et en même temps, Meta a également réduit les limites d'accès à l'âge des mondes Horizon à 13 ans, puis 10 l'an dernier.

Cela semble être une préoccupation, non? Que entre la méta-méta étant obligée de mettre en œuvre de nouvelles solutions de sécurité pour protéger les utilisateurs, cela réduit également les barrières d'âge pour l'accès à la même chose.

Bien sûr, Meta pourrait bien mener des études de sécurité supplémentaires, comme il le note, et celles-ci pourraient revenir avec d'autres informations qui aideront à résoudre des problèmes de sécurité comme celui-ci, avant une prise plus large de ses outils VR. Mais il y a un sentiment que Meta est prête à avancer avec ses projets avec les progrès comme lumière directrice, plutôt que la sécurité. Ce qui, encore une fois, est ce que nous avons vu avec les médias sociaux au départ.

Meta a été transportée à plusieurs reprises devant le Congrès pour répondre aux questions sur la sécurité d'Instagram et de Facebook pour les utilisateurs des adolescents, et ce qu'il sait ou savait, des dommages potentiels parmi les jeunes publics. Meta a depuis longtemps nié tout lien direct entre l'utilisation des médias sociaux et la santé mentale des adolescents, bien que divers rapports tiers ont trouvé des liens clairs sur ce front, ce qui a conduit aux derniers efforts pour empêcher les jeunes adolescents d'accéder aux applications sociales.

Mais à travers tout cela, Meta est restée ferme dans son approche et en donnant accès à autant d'utilisateurs que possible.

C'est ce qui peut être le plus préoccupant ici, que Meta est disposée à ignorer les preuves extérieures si elle pouvait entraver sa propre croissance commerciale.

Ainsi, vous prenez des méta au mot et croyez qu'il mène des expériences de sécurité pour s'assurer que ses projets n'ont pas d'impact négatif sur les adolescents, soit pour faire face à la méta pour faire face à un questionnement plus difficile, sur la base d'études externes et de preuves du contraire.

Meta soutient qu'il fait le travail, mais avec tant de choses en jeu, cela vaut la peine de continuer à soulever ces questions.

author avatar
Erwan
Erwan, expert digital pour Coeur sur Paris, offre des insights pointus sur le marketing et les réseaux sociaux. Avec une plume vive et une analyse fine, il transforme les complexités du digital en conseils pratiques et tendances à suivre.
Erwan

Rédigé par

Erwan

Erwan, expert digital pour Coeur sur Paris, offre des insights pointus sur le marketing et les réseaux sociaux. Avec une plume vive et une analyse fine, il transforme les complexités du digital en conseils pratiques et tendances à suivre.