Les plateformes sociales pourraient relever un défi de taille en France, les législateurs français approuvant aujourd’hui une nouvelle loi qui nécessitera une réponse rapide des équipes de modération sur les contenus très offensants publiés dans leurs applications.
Tel que rapporté par Reuters:
« Les réseaux sociaux et autres fournisseurs de contenu en ligne devront supprimer les contenus pédophiles et liés au terrorisme de leurs plateformes dans l’heure ou encourir une amende pouvant aller jusqu’à 4% de leurs revenus mondiaux en vertu d’une loi française votée mercredi. «
Une telle réglementation a fait l’objet de discussions ces dernières années, les autorités étant désireuses de faire davantage pression sur les réseaux sociaux pour qu’ils agissent davantage sur ces fronts.
Mais c’est une question difficile. En termes d’échelle, Facebook compte quelque 30 millions d’utilisateurs en France, ce qui équivaudrait probablement à des milliards de publications et de mises en ligne chaque jour. Même si les plates-formes étaient capables de réagir à la « plupart » des violations de contenu en une heure, l’établissement d’un seuil de réponse définitif et de sanctions ultérieures ajoute un autre niveau, ce qui pourrait même finir par forcer certaines plates-formes plus petites avec moins de capacité à repenser leurs opérations la nation européenne entièrement.
La nouvelle loi est le résultat d’une enquête d’un an menée par les régulateurs français sur les différents processus de modération de Facebook, à travers lesquels Facebook a fourni un accès sans précédent à ses systèmes et fonctions internes. Compte tenu des différentes controverses véhiculées par les réseaux sociaux à travers le monde, le président français Emmanuel Macron a cherché une nouvelle manière de réguler les plateformes technologiques, à la différence des modèles actuels. Cela a finalement conduit à l’introduction de cette nouvelle loi.
Mais comme indiqué, cela peut ne pas être réalisable.
Alors que les systèmes d’apprentissage automatique de Facebook pour l’identification de contenu ont évolué et sont maintenant beaucoup plus capables de détecter et de bloquer certains types de publications avant même que quiconque ne les voie, ils ne sont pas parfaits, et avec ses équipes de modération humaine ne peuvent couvrir qu’une partie limitée, il ne fait presque aucun doute que certains documents passeront encore au-delà de ce seuil d’une heure.
Les lacunes des systèmes d’apprentissage automatique de Facebook à cet égard ont été soulignées dans une enquête menée par Vice en 2018, qui a noté que:
« Bien que l’IA de Facebook ait réussi à identifier le spam et la nudité, la nuance du langage humain, les contextes culturels et les désaccords généralisés sur ce qui constitue un «discours de haine» en font un problème beaucoup plus difficile. L’IA de Facebook ne détecte que 38% des messages liés aux discours de haine qu’elle supprime finalement, et pour le moment, elle ne dispose pas de suffisamment de données d’entraînement pour que l’IA soit très efficace en dehors de l’anglais et du portugais. «
Les systèmes de Facebook n’ont cessé de s’améliorer depuis, mais fournir une garantie concrète que tous les messages qui entrent dans cette catégorie seront supprimés en une heure semble largement invraisemblable, compte tenu des différents facteurs.
Dans le même temps, les plateformes sociales ont considérablement amélioré leurs efforts de réponse sur ce type de contenu.
De retour en 2016, Microsoft, Twitter, Facebook et YouTube ont tous signé un code de conduite avec l’Union européenne dans lequel ils se sont engagés à examiner «la plupart» des plaintes dans un délai de 24 heures. Les fonctionnaires de l’UE étaient satisfaits des progrès réalisés sur ce front – mais la principale différence ici, mis à part une exigence de temps de réponse plus large, est qu’il n’y a pas eu de sanction, en tant que telle, pour les entreprises qui ne respectent pas ces exigences. Le risque, en cas d’échec, était de faire face à une réglementation plus stricte.
Maintenant, il semble qu’ils vont de toute façon faire face à des règles plus strictes.
Bien sûr, l’opinion générale est probablement qu’ils peuvent se le permettre – les réseaux de médias sociaux génèrent des milliards de dollars de revenus publicitaires, ils peuvent se permettre d’embaucher plus de modérateurs ou d’investir dans des améliorations du système pour répondre à ces exigences. Mais comme indiqué, même avec des ressources infinies, il n’est peut-être toujours pas possible de capturer tous les incidents dans un temps de réponse aussi court.
Cela s’ajoute à la liste croissante des défis réglementaires auxquels sont confrontées les plates-formes technologiques. Le mois dernier, le gouvernement australien a annoncé de nouvelles lois qui forceront Facebook et Google à partager leurs revenus avec les éditeurs, une initiative qui ne mènera probablement pas au résultat qu’ils cherchent à atteindre.
La nouvelle loi française n’atteindra probablement pas non plus l’objectif visé, et bien que l’impulsion d’une telle décision ait du sens, en termes pratiques, si elle est appliquée, elle n’entraînera probablement que le passage des plates-formes technologiques à des solutions de contournement moins avantageuses pour éviter pertes.
