Ouais, ça ne semble pas génial.
Au cours du week-end, le propriétaire de X et Xai, Elon Musk, a signalé un changement à venir à son chatbot Grok, dans lequel l'équipe de développement de Grok supprimera « Politiquement incorrect, mais néanmoins en fait vrai, les informations de ses banques de données, afin d'éviter l'application fournissant essentiellement des réponses avec lesquelles Musk lui-même n'est pas d'accord.
Le changement arrive depuis un certain temps, le chat de Grok de X en apportant à plusieurs reprises des réponses qui comptent les propres opinions de Musk sur certains sujets. Par exemple, Grok a déclaré aux utilisateurs que les enfants devraient avoir accès aux soins affirmés par les sexes, quelque chose que Musk a été un adversaire vocal, alors qu'il est également contré des revendications de violence politique perpétrées par des partisans de gauche (notant qu'il y a plus de preuves d'attaques de droite).
Grok a également nommé Musk lui-même comme «le plus grand épandeur de désinformation sur X», parmi ses diverses affirmations qui ont rangé son créateur.
Et pendant le week-end, Musk a indiqué qu'il en avait assez. Après que Grok a fait référence aux données de Media Matters et Rolling Stone, Musk a répondu en disant que «l'approvisionnement est terrible» de Grok et que «seul une IA très stupide croirait MM et Rs».
Musk a ensuite suivi cela avec un article appelant les utilisateurs de X à fournir des exemples de «faits de division pour la formation Grok», qui a vu le public de X fournir plus de 100 000 réponses, qui, selon eux, seront éliminés de la base d'information de Grok.
Ce qui rendra Grok plus aligné sur les points de discussion de droite, et plus ignorant des rapports et des preuves factuels. En d'autres termes, il deviendra une IA d'écho-Chamber, et avec de plus en plus de personnes comptant sur l'IA pour obtenir des réponses à toutes sortes de questions, cela semble être une préoccupation importante pour un développement plus large de l'IA.
Bien qu'en équilibre, l'utilisation de Grok est assez limitée. ChatGPT aurait environ 800 millions d'utilisateurs actifs, tandis que Meta a récemment affirmé que Meta IA était le chatbot AI le plus utilisé au monde, avec un milliard d'utilisateurs mensuels.
Grok, en comparaison, n'est utilisé que par une partie des 600 millions d'actifs mensuels de X et ne peut être entièrement accessible que par les utilisateurs payants. Ce n'est donc pas au même niveau d'influence que ces autres applications d'IA, mais même ainsi, le fait que Musk indique ouvertement qu'il modifie ses sources pour mieux s'aligner sur sa propre idéologie est toujours une préoccupation, en particulier compte tenu des problèmes récents avec les réponses de Grok.
Le mois dernier, Grok s'est avéré fournir des réponses inexactes sur le nombre de morts de l'Holocauste, tout en poussant des réponses aléatoires qui comprenaient des références au «génocide blanc» en Afrique du Sud, qui sont tous deux basés sur des théories du complot démystifiées.
X affirme que les deux erreurs étaient dues à une modification non autorisée du code de Grok par un employé voyou, et que le processus a maintenant été mis à jour pour garantir que davantage de chèques et de contrepoids sont en place. Mais quelle que soit la raison, l'incident a souligné à quel point les programmeurs de Xai peuvent avoir sur les réponses du chatbot, s'ils choisissent ainsi, et avec Elon lui-même très désireux de discréditer toutes les sources qui ne sont pas d'accord avec ses opinions, qui semble être un mélange dangereux.
En effet, l'ensemble du projet XAI a été fondé sur la base de l'opposition d'Elon à d'autres modèles d'IA, qui, selon lui, est formé pour être «réveillé».
Comme indiqué par le Washington Post:
«Dans une interview en avril 2023 avec Fox News, Musk a déclaré que Openai avait« formé l'IA à mentir »en incorporant les commentaires humains qui dirigeaient le chatbot« de ne pas dire ce que les données exigent réellement qu'elle dise ». Il a qualifié son nouveau projet de «vérité.» »
Donc, tout au long, le projet XAI a été autant sur les récits politiques que l'évolution technologique, avec Musk cherchant à incomber ses propres projets d'IA vers sa propre idéologie, plutôt que sur une vérité objective, basée sur des sources Web.
Et beaucoup de ses partisans seront d'accord avec lui. La pandémie covide a déclenché un tout nouveau mouvement des médias anti-flux, et le fait que les outils d'IA soient formés sur ce qui est considéré comme des sources traditionnelles est un affront à cette poussée.
En tant que tel, la poussée antifactuelle de Musk sera vue positivement par beaucoup. Même s'il est imparfait, même si cela conduit à la propagation élargie de la désinformation.
Parce que la vérité, semble-t-il, est ce que vous faites.
C'est un autre exemple des négatifs potentiels des progrès technologiques, qui sont souvent négligés au milieu du battage médiatique plus large.
On peut en dire autant de toutes les innovations importantes, que bien qu'il y ait des points positifs et des avantages à glaner, Nous ouvrions également souvent les avantages que rendre une telle technologie largement accessible apportera.
Internet, par exemple, est une révolution de l'apprentissage, qui donne à des milliards de personnes accès à presque toutes les informations du monde, ce qui devrait à son tour rendre l'humanité plus éduquée, plus informée et améliorer le niveau d'intelligence de l'intelligence de base.
Pourtant, en 2025, les débats sur l'efficacité des vaccins, le changement climatique et même la forme même de la terre en tant que planète sont plus vivants que jamais.
Les médias sociaux devaient relier le monde, en nous permettant de discuter avec n'importe qui, n'importe où, facilitant plus d'unité, d'empathie et de compréhension. Pourtant, il a sans doute fait le contraire, en fournissant un moyen pour les groupes intolérants, diviseurs et haineux de fusionner, reliant les pires éléments du monde. Les algorithmes mêmes qui alimentent l'engagement des médias sociaux incitent cela, et il est difficile de soutenir que les médias sociaux, en tant que concept, ont été un positif net.
Et maintenant, nous avons l'IA, le prochain grand espoir, qui démocratisera la créativité, et facilitera de nouveaux niveaux de productivité humaine, en fournissant une assistance basée sur la machine pour améliorer notre processus quotidien.
Comment pensez-vous que cela va fonctionner en réalité?
Bien sûr, il y aura clairement des avantages, car il y en a eu avec ces autres avancées, en particulier du point de vue des entreprises. Mais l'idée utopique que l'IA va inaugurer un nouvel âge d'or de l'opportunité créative et intelligente n'est vraiment que la chose des terrasses de pitch d'entreprise et des discussions de conférence.
Allez regarder le contenu AI partagé en ligne dès maintenant. Vidéos avec des nuances racistes que vous ne pouviez pas créer avec des acteurs humains. L'IA nuise à la ressemblance des personnes qui n'ont pas donné leur permission à tel. Les gens qui font passer le travail généré par l'AI-AI sont les leurs, trompant leur chemin dans des opportunités non gagnées.
Ce n'est pas bon, ce ne sont pas de bonnes choses qui sont facilitées par cette nouvelle technologie, et ce que l'histoire nous montre, c'est que les pires éléments de la société profitent tout aussi, sinon plus, de ces avancées.
Ce qui nous ramène à Elon et sa décision de modifier essentiellement l'histoire pour «améliorer» son chatbot. C'est un très mauvais précédent et un changement très préoccupant, d'autant plus que de plus en plus de personnes comptent sur ces outils d'IA pour les réponses.
Pensons-nous vraiment que cela améliorera la société ou nous rendra plus intelligents en tant qu'espèce?
Et si la réponse, sur l'un ou l'autre front, est non, alors pourquoi poussons-nous l'IA dans chaque élément de chaque application?
