Il semble que d’autres problèmes juridiques soient à venir pour X, plusieurs États américains prenant des mesures réglementaires contre l’application appartenant à Elon Musk concernant la génération et la diffusion d’images sexualisées.

Cela vient du chatbot Grok de X qui supprime les photos de n'importe qui, des acteurs bien connus aux enfants aléatoires, via sa capacité de génération d'images, qui était devenue une tendance sur X au début de la nouvelle année. En effet, à un moment donné, les données indiquent que Grok générait plus de 6 000 images sexualisées par jour, toutes accessibles au public dans l’application.

Cela a provoqué une réaction violente dans plusieurs régions, et même des interdictions de Grok et de X dans certaines régions. Bien que X ait d’abord tenu bon face aux critiques, Musk lui-même affirmant que les critiques ne concernaient pas X, mais plutôt une censure plus large et un effort pour empêcher X de révéler des vérités plus larges.

Mais, en réalité, il n'y a aucun moyen de justifier la génération d'images nues et sexualisées, et il n'est pas nécessaire que cette fonctionnalité existe, indépendamment de tout autre message politiquement chargé que vous souhaitez y attacher. En conséquence, face à la menace de nouvelles interdictions et restrictions, X a finalement fait marche arrière et restreint la capacité de génération d'images de Grok aux utilisateurs payants uniquement, tout en mettant en œuvre des mesures pour arrêter la génération de ce type d'images.

Mais c'est peut-être arrivé trop tard. Hier, la Commission européenne a annoncé une enquête sur Grok et sur les garanties de xAI pour se protéger contre une utilisation abusive de ses outils.

Et maintenant, un groupe de plus de 37 procureurs généraux américains cherchent également à prendre des mesures contre xAI.

Comme le rapporte Wired :

« Vendredi, un groupe bipartisan de procureurs généraux a publié une lettre ouverte à xAI lui demandant de « prendre immédiatement toutes les mesures supplémentaires disponibles pour protéger le public et les utilisateurs de vos plateformes, en particulier les femmes et les filles qui sont la cible écrasante des (images intimes non consensuelles). »

Dans la lettre, le groupe exprime de sérieuses inquiétudes concernant « l’intelligence artificielle qui a produit de fausses images intimes non consensuelles (NCII) de personnes réelles, y compris des enfants ».

Et même si X a désormais pris des mesures, le groupe réclame davantage de responsabilités de la part de Musk et de son équipe.

«Nous reconnaissons que xAI a mis en œuvre des mesures destinées à empêcher Grok de créer NCII et apprécions votre récente rencontre avec plusieurs procureurs généraux soussignés pour discuter de ces efforts (…) De plus, vous affirmez avoir mis en œuvre des mesures techniques pour empêcher le compte @Grok 'de permettre l'édition d'images de personnes réelles révélant des vêtements tels que des bikinis'. Mais nous craignons que ces efforts n’aient pas complètement résolu les problèmes. »

En effet, les procureurs généraux suggèrent en outre que les outils d'IA de X ont été réellement conçus à cet effet et ont intégré des outils pour faciliter une utilisation nuisible.

« Grok non seulement permettait ces préjudices à une échelle énorme, mais semblait en fait encourager ce comportement par conception. xAI a délibérément développé ses modèles de texte pour s'engager dans des échanges explicites et a conçu des modèles d'images pour inclure un « mode épicé » qui générait du contenu explicite, ce qui aboutissait à un contenu qui sexualise les gens sans leur consentement. « 

En conséquence, le groupe appelle Elon et X à prendre des mesures plus définitives pour interdire une telle utilisation, notamment en supprimant tous les moyens permettant de générer de telles images, en supprimant tout le contenu déjà créé et en suspendant les utilisateurs qui utilisent Grok à mauvais escient à cette fin.

Les procureurs généraux souhaitent également que X donne aux utilisateurs le contrôle sur la possibilité de modifier leur contenu par Grok, « y compris au minimum la possibilité d'interdire facilement au compte @Grok de répondre à leurs messages ou de modifier leurs images à la demande d'un autre utilisateur ».

Ce qui signifie davantage de défis pour X, dans l'amélioration de la transparence, ainsi que des efforts accrus pour mettre en œuvre des garanties et des restrictions sur l'utilisation de Grok.

Ce dont, encore une fois, Elon Musk n’est pas fan, et cela nécessitera peut-être un combat juridique plus important pour y parvenir, que Musk utilisera sans aucun doute également comme une opportunité de se présenter comme le visage de la liberté d’expression, alors que les régulateurs gouvernementaux cherchent à sévir.

Le principal refrain d'Elon dans ce cas est que d'autres applications facilitent les mêmes options et que les régulateurs ne s'attaquent pas à d'autres applications de nudification et de génération d'IA avec la même vigueur.

Mais les procureurs généraux abordent également ce point :

« Alors que d'autres sociétés sont également chargées d'autoriser la création de NCII, la taille et la part de marché de xAI en font un leader du marché de l'intelligence artificielle. Unique parmi les grands laboratoires d'IA, vous connectez ces outils directement à une plate-forme de médias sociaux avec des centaines de millions d'utilisateurs. Vos actions sont donc de la plus haute importance. Les mesures que vous prenez pour prévenir et supprimer NCII établiront des références de l'industrie pour protéger les adultes et les enfants contre les images intimes non consensuelles nuisibles et non consensuelles. « 

Il est intéressant de considérer cette poussée à la lumière de la position très publique et très bruyante d'Elon contre le matériel CSAM, Musk annonçant, peu de temps après avoir repris Twitter, que la lutte contre le CSAM était la « priorité n°1 » de son époque sur l'application.

Musk avait critiqué l'ancienne direction de Twitter pour ne pas avoir abordé l'exploitation sexuelle des enfants dans l'application, et il a depuis revendiqué plusieurs avancées majeures dans ce domaine sur X.

Pourtant, dans ce cas précis, Musk veut riposter, ce qui semble aller à l’encontre de ces affirmations.

Je veux dire, clairement, la vision politique plus large autour du contenu CSAM a changé, étant donné qu’il était autrefois la principale préoccupation des électeurs de droite, dont beaucoup préféreraient désormais ignorer les dossiers Epstein.

Peut-être que cela a modifié la position d'Elon sur le même sujet, même s'il semble qu'à première vue, cela devrait être une préoccupation majeure pour ce groupe.

Quoi qu’il en soit, X est désormais sur le point de faire l’objet d’un examen plus approfondi, dans davantage de régions, et avec les impacts potentiels liés à xAI et aux projets d’IA plus larges de Musk, cela pourrait avoir un impact important sur ses plans.

Nous verrons comment Musk réagira et si des mesures supplémentaires seront recherchées sur ce front.

author avatar
Erwan
Erwan, expert digital pour Coeur sur Paris, offre des insights pointus sur le marketing et les réseaux sociaux. Avec une plume vive et une analyse fine, il transforme les complexités du digital en conseils pratiques et tendances à suivre.
Erwan

Rédigé par

Erwan

Erwan, expert digital pour Coeur sur Paris, offre des insights pointus sur le marketing et les réseaux sociaux. Avec une plume vive et une analyse fine, il transforme les complexités du digital en conseils pratiques et tendances à suivre.