Facebook a annoncé un nouveau processus qui aidera à arrêter la propagation de contenu offensant sur leurs plateformes. Et bien que l’objectif principal de la nouvelle initiative soit d’éradiquer la pornographie vengeresse, cela pourrait également avoir des implications plus larges pour d’autres violations de contenu.
Comme indiqué dans leur annonce, et par le PDG de Facebook, Mark Zuckerberg, la vengeance pornographique est leur objectif principal ici.
Le nouveau processus fonctionnera comme ceci :
- Lorsqu’un utilisateur voit une « image intime sur Facebook qui semble avoir été partagée sans autorisation », il peut la signaler en utilisant le lien « Signaler » qui apparaît lorsque vous appuyez sur la flèche vers le bas à côté d’un message.
- Des représentants de l’équipe des opérations communautaires de Facebook examineront l’image et la supprimeront si elle enfreint les normes communautaires de la plate-forme. Facebook dit que dans la plupart des cas, ils désactiveront également le compte pour partager des images intimes sans autorisation.
- Facebook utilisera ensuite la technologie de correspondance de photos pour empêcher le partage du contenu incriminé sur Facebook, Messenger et Instagram. « Si quelqu’un essaie de partager l’image après qu’elle a été signalée et supprimée, nous l’alerterons qu’elle enfreint nos politiques et que nous avons arrêté sa tentative de la partager. »
Il s’agit de la dernière avancée dans les efforts de reconnaissance d’image automatisée de Facebook, que Zuckerberg a souligné dans son récent aperçu de leurs initiatives communautaires clés pour l’avenir, publié en février. À cette époque, Zuckerberg a noté que leurs outils d’intelligence artificielle et de reconnaissance d’images généraient déjà environ un tiers de tous les rapports à l’équipe de révision de contenu.
Facebook développe sa technologie de reconnaissance d’images depuis des années – vous pouvez voir par vous-même à quel point leurs systèmes ont évolué en vérifiant les balises incluses sur chaque publication d’image (en haut à droite de l’image ci-dessous).
.png)
Cette nouvelle application montre qu’ils sont désormais en mesure de faire davantage confiance au système et, comme indiqué, bien que le revenge porn soit l’objectif principal (et un point important – une personne sur 25 aux États-Unis a été victime d’un partage d’images non consensuel), les applications pourraient être étendues davantage pour éliminer tous les contenus offensants signalés de leurs plateformes. Si le système est capable d’identifier de manière précise et fiable les instances en double de n’importe quelle image, les cas d’utilisation potentiels sont importants.
La prochaine étape sera la reconnaissance vidéo, que Facebook développe également.
(1).gif)
De telles avancées ont de nombreux cas d’utilisation potentiels, mais la sécurité communautaire est un domaine clé de développement – un domaine qui pourrait nous permettre d’avoir un espace beaucoup plus sécurisé et inclusif, exempt de matériel illégal et offensant.
