Meta interdit l'accès des adolescents à ses chatbots IA sous différents personnages, car elle cherche à mettre en œuvre un nouveau système qui garantira plus de sécurité dans leur utilisation et répondra aux préoccupations concernant les adolescents qui reçoivent des conseils préjudiciables à partir de ces options.

Ce qui est logique, compte tenu des préoccupations déjà soulevées concernant l’interaction des robots IA, mais en réalité, celles-ci s’appliqueraient à tout le monde, pas seulement aux utilisateurs adolescents.

En octobre dernier, Meta a déployé de nouvelles options permettant aux parents de contrôler la façon dont leurs enfants interagissent avec les profils d'IA dans ses applications, alors que certains chatbots d'IA fournissaient des conseils et des orientations potentiellement dangereux aux adolescents.

En effet, il a été constaté que plusieurs chatbots IA donnaient aux adolescents des conseils dangereux sur l'automutilation, les troubles de l'alimentation, la façon d'acheter des drogues (et de les cacher à leurs parents), etc.

Cela a déclenché le lancement d'une enquête de la FTC sur les risques potentiels de l'interaction des chatbots IA, et en réponse à cela, Meta a ajouté davantage d'options de contrôle qui permettraient aux parents de limiter la manière dont leurs enfants interagissent avec ses chatbots IA, afin d'atténuer les préoccupations potentielles.

Exemple de bot méta-IA

Pour être clair, Meta n’est pas seul dans ce cas. Snapchat a également dû modifier les règles concernant l'utilisation de son chatbot « My AI », tandis que X a récemment eu ses propres problèmes à grande échelle avec des personnes utilisant son chatbot Grok pour générer des images offensantes.

L’IA générative en est encore à ses balbutiements et, en tant que telle, il est pratiquement impossible pour les développeurs de contrer chaque utilisation abusive potentielle. Mais même ainsi, ces utilisations par les adolescents semblent assez faciles à prévoir, ce qui reflète probablement la volonté plus large d’un développement rapide plutôt que du risque.

Quoi qu'il en soit, Meta met en œuvre de nouveaux contrôles sur ses robots IA pour répondre à ce problème. Mais ce faisant, il a maintenant décidé de couper temporairement et complètement l’accès des adolescents à ses chatbots IA (à l’exception de Meta AI).

Selon Meta :

« En octobre, nous avons annoncé que nous développions de nouveaux outils pour donner aux parents plus de visibilité sur la façon dont leurs adolescents utilisent l'IA et plus de contrôle sur les personnages d'IA avec lesquels ils peuvent interagir. Depuis, nous avons commencé à créer une nouvelle version des personnages IA, pour offrir aux gens une expérience encore meilleure. Pendant que nous nous concentrons sur le développement de cette nouvelle version, nous suspendons temporairement l'accès des adolescents aux personnages IA existants dans le monde entier.

Je veux dire, ça n'a pas l'air génial. Il semble que davantage d'inquiétudes aient été soulevées, alors qu'il est clair que l'enquête de la FTC jouerait dans l'esprit des dirigeants de Meta, car une pénalité potentielle menace pour tout abus.

« À partir des semaines à venir, les adolescents ne pourront plus accéder aux personnages IA dans nos applications jusqu'à ce que l'expérience mise à jour soit prête. Cela s'appliquera à toute personne qui nous a donné un anniversaire d'adolescent, ainsi qu'aux personnes qui prétendent être des adultes mais que nous soupçonnons d'être des adolescents sur la base de notre technologie de prédiction de l'âge. Cela signifie que, lorsque nous respecterons notre promesse de donner aux parents davantage de contrôle sur les expériences d'IA de leurs adolescents, ces contrôles parentaux s'appliqueront à la dernière version des personnages d'IA.

Meta admet donc tacitement qu'il existe des défauts importants dans ses chatbots IA, qui doivent être corrigés. Et même si les adolescents pourront toujours accéder à son principal chatbot Meta AI, ils ne pourront pas interagir avec les personnages de robots personnalisés au sein de ses applications.

Est-ce que cela aura un grand impact ?

Eh bien, une étude publiée en juillet dernier a révélé que 72 % des adolescents américains ont déjà utilisé un compagnon IA, et nombre d'entre eux ont désormais des interactions sociales régulières avec les amis virtuels de leur choix.

Combinez cela avec la volonté de Meta d’introduire une armée de personnages de chatbots IA dans ses applications, comme moyen de stimuler l’engagement, et cela mettra probablement un frein à ses projets plus larges.

Mais la plus grande question est de savoir comment sauvegarder ce type d’interaction avec l’IA, étant donné que les robots IA apprennent à partir d’Internet et ajusteront leurs réponses en fonction de la requête.

Il existe de nombreuses façons d'inciter les chatbots IA à vous fournir des réponses que leurs développeurs préféreraient ne pas fournir, mais comme ils correspondent au langage à si grande échelle, il est impossible de prendre en compte toutes les variations à cet égard.

Et les adolescents natifs du numérique sont extrêmement avertis et rechercheront les points faibles de ces systèmes.

En tant que telle, la décision de restreindre l'accès est tout à fait logique, mais je ne suis pas sûr de la manière dont Meta sera en mesure de développer des garanties efficaces contre les préoccupations futures.

Alors peut-être n’implémentez-vous pas de chatbots IA dans différents personnages qui se présentent comme de vraies personnes.

Ils ne sont pas vraiment nécessaires dans aucun contexte, et ils vont sans doute aussi à l'encontre de l'aspect « social » des médias sociaux, car il n'est pas « social », dans notre compréhension plus courante du terme, de parler à un ordinateur.

Les médias sociaux ont été conçus pour faciliter l’interaction humaine, et la volonté de diluer cela avec des robots IA semble en contradiction avec cela. Je veux dire, je comprends pourquoi Meta voudrait le faire, car davantage de robots IA s'engagent comme de vraies personnes dans ses applications, aiment les publications, laissent des commentaires, toutes ces choses permettront aux vrais utilisateurs humains de se sentir spéciaux et encourageront davantage de comportements de publication et de temps passé.

Je sais pourquoi Meta voudrait mettre en œuvre une telle chose, mais je ne pense pas que les risques d'une telle chose aient été pleinement évalués, surtout si l'on considère les impacts potentiels du développement de relations avec des entités non humaines, et ce que cela pourrait faire sur la perception et l'état mental des gens.

Meta admet que ça pourrait être un problème chez les adolescents. Mais en réalité, cela pourrait être un problème généralisé, et je ne pense pas que la valeur de ces robots, du point de vue de l’utilisateur, l’emporterait sur ce risque potentiel.

Du moins jusqu'à ce que nous en sachions plus. Au moins jusqu'à ce que nous ayons des études à grande échelle montrant les impacts de l'interaction des robots IA et si c'est une bonne ou une mauvaise chose pour les gens.

Alors pourquoi s’arrêter à les interdire aux adolescents, pourquoi ne pas les interdire à tout le monde jusqu’à ce que nous ayons plus d’informations ?

Je sais que cela n’arrivera pas, mais cela semble être un aveu qu’il s’agit d’un sujet de préoccupation plus important que ce que Meta avait prévu.

author avatar
Erwan
Erwan, expert digital pour Coeur sur Paris, offre des insights pointus sur le marketing et les réseaux sociaux. Avec une plume vive et une analyse fine, il transforme les complexités du digital en conseils pratiques et tendances à suivre.
Erwan

Rédigé par

Erwan

Erwan, expert digital pour Coeur sur Paris, offre des insights pointus sur le marketing et les réseaux sociaux. Avec une plume vive et une analyse fine, il transforme les complexités du digital en conseils pratiques et tendances à suivre.