Cet audio est généré automatiquement. S'il vous plaît laissez-nous savoir si vous avez des commentaires.

Il semble qu'Elon soit sur le point de se voir infliger une autre amende de la part de la Commission européenne, cette fois pour utilisation abusive de Grok et pour la capacité du chatbot à produire du contenu offensant et potentiellement illégal.

Aujourd'hui, la Commission européenne a annoncé une nouvelle enquête sur le chatbot Grok AI de X, que beaucoup utilisent pour générer des nus non consensuels et des images sexualisées.

Selon la Commission européenne :

« La nouvelle enquête évaluera si l'entreprise a correctement évalué et atténué les risques associés au déploiement des fonctionnalités de Grok dans X dans l'UE. Cela inclut les risques liés à la diffusion de contenus illégaux dans l’UE, tels que des images manipulées à caractère sexuel explicite, y compris des contenus pouvant constituer des images d’abus sexuels sur des enfants.

Le chatbot Grok de X produisait des milliers d'images sexuellement explicites par jour il y a quelques semaines, avant que X ne décide de restreindre ses capacités de génération d'images, mais pas avant que le propriétaire de X, Elon Musk, ne prenne position contre tout changement et repousse les critiques.

Pourquoi quelqu'un voudrait-il prendre position sur cette préoccupation spécifique, je ne le sais pas, mais selon Elon, il s'agissait d'une question de liberté d'expression, affirmant essentiellement que les gens devraient pouvoir générer des nus non consensuels de personnes, s'ils le souhaitent.

Et maintenant, la Commission européenne va déterminer si X a violé la loi sur les services numériques (DSA), ce qui pourrait entraîner des amendes importantes pour l'entreprise.

« Ces risques semblent s'être matérialisés, exposant les citoyens de l'UE à de graves préjudices. À la lumière de cela, la Commission examinera plus en détail si X respecte ses obligations DSA pour :

  • Évaluer et atténuer avec diligence les risques systémiques, y compris la diffusion de contenus illégaux, les effets négatifs liés à la violence basée sur le genre et les conséquences négatives graves sur le bien-être physique et mental découlant du déploiement des fonctionnalités de Grok sur sa plateforme.
  • Réaliser et transmettre à la Commission un rapport ad hoc d'évaluation des risques pour les fonctionnalités de Grok dans le service X ayant un impact critique sur le profil de risque de X avant leur déploiement.

En plus de cela, la Commission européenne prolongera également ses procédures en cours contre X pour déterminer si l’entreprise a correctement évalué et atténué tous les risques systémiques, tels que définis dans le DSA, associés à ses systèmes de recommandation, « y compris l’impact de son passage récemment annoncé à un système de recommandation basé sur Grok ».

Oui, il semble certainement que X va être à nouveau condamné à une amende en Europe, ce qui déclenchera probablement une nouvelle crise de Musk, dans laquelle il fera appel à ses amis de la Maison Blanche pour le soutenir dans sa lutte contre les règles européennes.

LLe mois dernier, la Commission européenne a infligé une amende de 140 millions de dollars à X pour violations du DSA, qui sont principalement liées à la confusion causée par son offre de vérification payante. En réponse, Musk a comparé la Commission européenne au régime nazi et a appelé les États-Unis à quitter l'OTAN en réponse et à suppression de l’ensemble du cadre européen.

Donc oui, ce n’est pas exactement une réponse mesurée.

Musk a également appelé au soutien du gouvernement américain pour s'opposer à la réglementation européenne, avec Vice-président JD Vance et Le secrétaire d'État Marco Rubio se joignant à ses critiques et qualifiant la sanction « d’attaque contre toutes les plateformes technologiques américaines et le peuple américain par des gouvernements étrangers ».

En tant que tel, les bases ont été établies pour une plus grande réaction de la part d’Elon Musk, si X devait effectivement être condamné à une amende. Et étant donné sa propension à utiliser sa plateforme publique comme son propre tribunal d’opinion, il semble inévitable que cela se dirige vers un autre conflit majeur, qui pourrait déclencher une réponse de la part du gouvernement américain.

Mais pour être clair, tout ce que l’on a demandé dans cette affaire, c’était que X supprime la capacité de Grok de produire des images offensantes et non consensuelles. Compte tenu de la manière dont fonctionnent les outils d'IA, il pourrait être difficile de les interdire complètement, mais xAI a depuis prouvé qu'elle pouvait au moins évoluer dans cette direction, et le fait que X n'ait pas cherché à les limiter immédiatement, une fois que des rapports faisant état d'une telle utilisation abusive ont fait surface, n'augure rien de bon pour l'entreprise.

Est-ce une question de liberté d'expression ?

Une partie de la réticence de Musk était que d'autres applications et outils peuvent générer des images similaires, et pourtant ils ne sont pas soumis au même examen minutieux que X. Le point de vue de Musk est que c'est parce que X « expose la vérité » à travers son approche de la liberté d'expression, et c'est pourquoi il est ciblé, mais toutes les applications de nudification et d'IA sont sous surveillance pour la même chose.

La différence est qu’aucun d’entre eux n’a l’ampleur et la portée de X, et aucun n’a été utilisé pour produire des images offensantes à l’échelle que X avait été.

Quoi qu’il en soit, il s’agit d’une autre bataille pour X, qui suscitera probablement une nouvelle querelle publique lorsque les conclusions seront finalement rendues par la Commission européenne.

author avatar
Erwan
Erwan, expert digital pour Coeur sur Paris, offre des insights pointus sur le marketing et les réseaux sociaux. Avec une plume vive et une analyse fine, il transforme les complexités du digital en conseils pratiques et tendances à suivre.
Erwan

Rédigé par

Erwan

Erwan, expert digital pour Coeur sur Paris, offre des insights pointus sur le marketing et les réseaux sociaux. Avec une plume vive et une analyse fine, il transforme les complexités du digital en conseils pratiques et tendances à suivre.