À certains égards, l’UE est en avance en matière de réglementation technologique et prend des mesures proactives pour garantir que la protection des consommateurs soit prise en compte dans le nouveau paysage numérique.
Mais dans d’autres, les réglementations européennes peuvent étouffer le développement et mettre en œuvre des systèmes onéreux qui ne répondent pas vraiment à leur objectif, et ne font qu’ajouter des obstacles supplémentaires aux développeurs.
Exemple concret : aujourd'hui, l'UE a annoncé un nouvel ensemble de réglementations conçues pour contrôler le développement de l'IA, avec une série de mesures autour de l'utilisation éthique et acceptable des données des personnes pour former les systèmes d'IA.
Et il contient des dispositions intéressantes. Par exemple:
« Les nouvelles règles interdisent certaines applications d'IA qui menacent les droits des citoyens, notamment les systèmes de catégorisation biométrique basés sur des caractéristiques sensibles et la récupération non ciblée d'images faciales sur Internet ou de séquences de vidéosurveillance pour créer des bases de données de reconnaissance faciale. La reconnaissance des émotions sur le lieu de travail et dans les écoles, la notation sociale, la police prédictive (lorsqu'elle repose uniquement sur le profilage d'une personne ou l'évaluation de ses caractéristiques) et l'IA qui manipule le comportement humain ou exploite les vulnérabilités des personnes seront également interdites.»
Vous pouvez voir comment ces réglementations visent à répondre à certains des éléments les plus préoccupants de l’utilisation de l’IA. Mais en même temps, ces règles ne peuvent être appliquées que rétrospectivement, et de nombreuses preuves suggèrent que les outils d’IA seront, et ont déjà été créés, capables de faire ces choses, même si ce n’était pas l’intention lors de leur développement initial. .
Ainsi, en vertu de ces règles, les responsables de l’UE pourront interdire ces applications une fois qu’elles seront publiées. Mais ils seront toujours construits et seront probablement encore disponibles par d’autres moyens.
Je suppose que les nouvelles règles donneront au moins aux fonctionnaires de l’UE un soutien juridique pour agir dans de tels cas. Mais il semble un peu inutile de tout contrôler rétrospectivement, surtout si ces mêmes outils doivent être disponibles dans d’autres régions d’une manière ou d’une autre.
Il s’agit d’une préoccupation plus large concernant le développement de l’IA dans son ensemble, dans la mesure où les développeurs d’autres pays ne seront pas soumis aux mêmes réglementations. Cela pourrait voir les pays occidentaux prendre du retard dans la course à l’IA, étouffés par des restrictions qui ne sont pas appliquées universellement.
Les développeurs de l’UE pourraient être particulièrement paralysés à cet égard, car, encore une fois, de nombreux outils d’IA seront capables de faire ces choses, même si ce n’est pas l’intention lors de leur création.
Ce qui, je suppose, fait partie du défi du développement de l’IA. Nous ne savons pas exactement comment ces systèmes fonctionneront jusqu'à ce qu'ils le fassent, et à mesure que l'IA devient théoriquement « plus intelligente » et commence à rassembler davantage d'éléments, il y aura des utilisations potentielles nuisibles pour eux, avec presque tous les outils configurés pour permettre certains forme d’utilisation abusive involontaire.
En réalité, les lois devraient plus spécifiquement porter sur les modèles linguistiques et les ensembles de données derrière les outils d'IA, et non sur les outils eux-mêmes, car cela permettrait alors aux responsables de se concentrer sur les informations qui sont obtenues et comment, et de limiter les conséquences involontaires à cet égard. , sans restreindre le développement réel du système d’IA.
De toute façon, c'est vraiment le principal moteur ici, pour contrôler quelles données sont collectées et comment elles sont utilisées.
Dans ce cas, les responsables de l'UE n'auraient pas nécessairement besoin d'une loi sur l'IA, qui pourrait limiter le développement, mais d'un amendement à l'actuelle loi sur les services numériques (DSA) en ce qui concerne l'utilisation élargie des données.
Quoi qu’il en soit, le maintien de l’ordre dans ce domaine constituera un défi, et il sera intéressant de voir comment les responsables de l’UE envisagent de mettre en pratique ces nouvelles règles.
Vous pouvez lire un aperçu de la nouvelle loi européenne sur l’intelligence artificielle ici.
