Alors que de plus en plus de gens font confiance à des robots d'IA pour leur fournir des réponses à toute question qu'ils peuvent avoir, des questions sont soulevées sur la façon dont les robots de l'IA sont influencés par leurs propriétaires et ce que cela pourrait signifier pour un flux informatif précis sur le Web.

La semaine dernière, le chatbot Grok de X était sous les projecteurs, après que des rapports selon lesquels les modifications internes de la base de code de Grok avaient conduit à des erreurs controversées dans ses réponses.

Erreur Grok

Comme vous pouvez le voir dans cet exemple, qui était l'un des nombreux partagés par le journaliste Matt Binder sur Threads, Grok, pour une raison quelconque, a commencé au hasard pour fournir aux utilisateurs des informations sur le «génocide blanc» en Afrique du Sud dans des requêtes non liées.

Pourquoi est-ce arrivé?

Quelques jours plus tard, le XAI a expliqué l'erreur, notant que:

« Le 14 mai, vers 3 h 15 PST, une modification non autorisée a été apportée à l'invite du bot de réponse de Grok sur X. Ce changement, qui a ordonné à Grok de fournir une réponse spécifique sur un sujet politique, a violé les politiques internes et les valeurs fondamentales de Xai. »

Donc, quelqu'un, pour une raison quelconque, a changé le code de Grok, qui a apparemment demandé au bot de partager la propagande politique sud-africaine non apparentée.

Ce qui est une préoccupation, et bien que l'équipe XAI prétend avoir immédiatement mis en place de nouveaux processus pour détecter et empêcher cela de se reproduire (tout en rendant le code de contrôle de Grok plus transparent), Grok a recommencé à fournir à nouveau des réponses inhabituelles plus tard dans la semaine.

Bien que les erreurs, cette fois-ci, aient été plus faciles à tracer.

Mardi de la semaine dernière, Elon Musk a répondu aux préoccupations des utilisateurs concernant Grok citant l'Atlantique et la BBC en tant que sources crédibles, affirmant que c'était « embarrassant » que son chatbot faisait référence à ces débouchés spécifiques. Parce que, comme vous pouvez vous y attendre, ils sont tous les deux parmi les nombreux médias traditionnels que Musk a décrits comme amplification de faux rapports. Et apparemment en conséquence, Grok a maintenant commencé à informer les utilisateurs qu'il «maintient un niveau de scepticisme» sur certaines statistiques et chiffres qu'il peut citer, «Comme le nombre peut être manipulé pour les récits politiques. »

Elon a donc apparemment construit dans une nouvelle mesure pour éviter l'embarras de citant des sources grand public, ce qui est plus conforme à ses propres opinions sur la couverture médiatique.

Mais est-ce exact? La précision de Grok sera-t-elle désormais impactée car il est invité à éviter certaines sources, basées, apparemment, sur le biais personnel d'Elon?

Xai s'appuie sur le fait que la base de code de Grok est ouvertement disponible et que le public peut examiner et fournir des commentaires sur tout changement. Mais cela dépend des gens qui regardent réellement tels, alors que ces données de code peuvent ne pas être entièrement transparentes.

La base de code de X est également accessible au public, mais n'est pas régulièrement mise à jour. Et en tant que tel, ce ne serait pas une énorme surprise de voir Xai adopter une approche similaire, en faisant référence aux gens à son approche ouverte et accessible, mais à la mise à jour du code uniquement lorsque des questions sont soulevées.

Cela fournit le placage de la transparence, tout en maintenant le secret, alors qu'il dépend également d'un autre membre du personnel qui ne change pas simplement le code, comme cela est apparemment possible.

Dans le même temps, Xai n'est pas le seul fournisseur d'IA qui a été accusé de parti pris. Le Chatgpt d'Openai a également censuré les requêtes politiques à certains moments, tout comme les Gémeaux de Google, tandis que Meta's AI Bot a également atteint un bloc sur certaines questions politiques.

Et avec de plus en plus de personnes qui se tournent vers les outils d'IA pour obtenir des réponses, cela semble problématique, avec les problèmes de contrôle des informations en ligne qui se poursuivent dans la prochaine étape du Web.

C'est malgré Elon Musk promettant de vaincre la censure «réveillée», malgré Mark Zuckerberg à trouver une nouvelle affinité avec des approches de droite, et malgré l'IA qui a apparemment fourni une nouvelle passerelle vers des informations contextuelles.

Oui, vous pouvez désormais obtenir des informations plus spécifiques plus rapidement, en termes conversationnels simplifiés. Mais quiconque contrôle le flux de données dicte les réponses, et cela vaut la peine de considérer où vos réponses d'IA proviennent lors de l'évaluation de leur précision.

Parce que bien que «l'intelligence» artificielle soit le terme avec lesquelles ces outils sont étiquetés, ils ne sont pas du tout intelligents. Il n'y a pas de réflexion, aucune conceptualisation ne se passe dans les coulisses. Ce ne sont que des feuilles de calcul à grande échelle, correspondant aux réponses probables aux termes inclus dans votre requête.

Xai s'approvisionne sur les informations de X, Meta utilise des publications Facebook et IG, entre autres sources, les réponses de Google sont via des extraits de page Web. Il y a des défauts au sein de chacune de ces approches, c'est pourquoi les réponses de l'IA ne devraient pas faire confiance à tout cœur.

Pourtant, en même temps, le fait que ces réponses soient présentées comme «intelligence» et communiquée de manière aussi efficace, assouplit en effet plus d'utilisateurs dans un état de confiance que les informations qu'ils reçoivent de ces outils sont correctes.

Il n'y a pas d'intelligence ici, juste la correspondance de données, et cela vaut la peine de garder cela à l'esprit lorsque vous vous engagez avec ces outils.

author avatar
Erwan
Erwan, expert digital pour Coeur sur Paris, offre des insights pointus sur le marketing et les réseaux sociaux. Avec une plume vive et une analyse fine, il transforme les complexités du digital en conseils pratiques et tendances à suivre.
Erwan

Rédigé par

Erwan

Erwan, expert digital pour Coeur sur Paris, offre des insights pointus sur le marketing et les réseaux sociaux. Avec une plume vive et une analyse fine, il transforme les complexités du digital en conseils pratiques et tendances à suivre.