Dans le cadre de ses efforts continus pour améliorer ses mesures de sécurité et de protection des utilisateurs, Facebook a décrit cette semaine les progrès réalisés dans la détection et la suppression de contenu exploitant des enfants, un domaine qui nécessite une attention spécifique et dédiée.
En utilisant des outils d’intelligence artificielle améliorés, Facebook a été en mesure d’améliorer considérablement ses performances à cet égard – comme expliqué dans l’article de mise à jour:
«Rien qu’au dernier trimestre, nous avons supprimé 8,7 millions de contenus sur Facebook qui enfreignaient nos politiques sur la nudité des enfants ou l’exploitation sexuelle des enfants, dont 99% ont été supprimés avant que quiconque ne le signale.
C’est une énorme approbation pour l’IA et la capacité de reconnaissance d’images de Facebook – le fait que Facebook ait été en mesure de protéger complètement les utilisateurs d’un tel contenu est un effort majeur, qui sauve à la fois les utilisateurs et les critiques de contenu Facebook du traumatisme d’une telle exposition.
Et ce dernier est un vrai problème – un documentaire récent a souligné comment les modérateurs de contenu Facebook travaillant à Manille sont obligés de faire face aux impacts psychologiques importants résultant de l’exposition à un tel contenu, évitant ainsi aux utilisateurs quotidiens d’avoir à faire face à la même chose. Plus Facebook peut faire pour résoudre ce problème – pour les employés et les utilisateurs – mieux c’est, tandis que les chiffres soulignent également à quel point les outils de reconnaissance et de détection d’images de Facebook ont évolué.
Facebook a également décrit sa relation en cours avec le Centre national pour les enfants disparus et exploités (NCMEC) pour contrôler un tel comportement lorsqu’il est détecté.
«Nous avons des équipes spécialement formées avec une expérience dans les domaines de l’application de la loi, de la sécurité en ligne, de l’analyse et des enquêtes médico-légales, qui examinent le contenu et rapportent les résultats au NCMEC. À son tour, le NCMEC travaille avec les organismes d’application de la loi du monde entier pour aider les victimes, et nous sommes aider l’organisation à développer un nouveau logiciel pour aider à hiérarchiser les rapports qu’elle partage avec les forces de l’ordre afin de traiter d’abord les cas les plus graves. «
Facebook note également qu’il travaille avec un éventail d’experts en sécurité, d’ONG et d’entreprises « pour perturber et prévenir l’exploitation sexuelle des enfants à travers les technologies en ligne ».
Il s’agit d’un élément majeur et critique que toutes les plates-formes numériques doivent aborder. Le partage d’un tel contenu met en danger les plus vulnérables de notre société, et il est important que cela soit reconnu et que tous les efforts soient faits pour y mettre un terme.
Les progrès de Facebook ici sont importants et devraient aider à améliorer la même chose à tous les niveaux. Bien que l’entreprise ait été critiquée pour des violations de la vie privée et des erreurs au cours des derniers mois, nous devrions également reconnaître des initiatives comme celle-ci et reconnaître ces développements importants.
