Instagram déploie de nouveaux outils de modération qui utiliseront l’apprentissage automatique pour détecter non seulement le langage offensant et le spam, mais également les commentaires considérés comme décourageants pour les autres utilisateurs.
Comme expliqué par Instagram :
« Beaucoup d’entre vous nous ont dit que les commentaires toxiques vous découragent de profiter d’Instagram et de vous exprimer librement. Pour vous aider, nous avons développé un filtre qui bloquera certains commentaires offensants sur les publications et dans les vidéos en direct. »
Comme le montre la capture d’écran ci-dessus, les utilisateurs pourront activer l’option dans leurs « Paramètres de commentaire ». Une fois en place, le système utilisera le système de classification DeepText AI de Facebook pour détecter et éliminer tous les commentaires qu’il juge être en violation des directives de la communauté d’Instagram.
Le système a été « enseigné », en analysant une vaste gamme d’exemples dans les commentaires, comment détecter de telles remarques, et utilise une gamme de qualificatifs pour améliorer ses résultats.
Comme expliqué par Wired :
« Comme pour le spam, les commentaires sont évalués en fonction à la fois d’une analyse sémantique du texte et de facteurs tels que la relation entre le commentateur et l’affiche, ainsi que l’historique du commentateur. Quelque chose de tapé par quelqu’un que vous n’avez jamais rencontré est plus probable être mal noté que quelque chose tapé par un ami. »
Le commentateur lui-même verra toujours le commentaire sur son appareil, ce qui réduira sa motivation à réessayer, car il supposera que le commentaire est visible par tous. Mais cela pourrait également conduire à des interactions déroutantes, surtout si votre commentaire est bloqué par erreur – ce qui se produira toujours dans certains cas.
Cela s’ajoute aux outils de modération des commentaires existants d’Instagram, y compris la possibilité de bloquer des mots spécifiques, ou des emoji, ou votre choix, et la possibilité de désactiver complètement les commentaires sur les publications.
.jpg)
À certains égards, Instagram est le terrain d’essai idéal pour de telles fonctionnalités. Avec l’accent d’Instagram sur les éléments visuels, il y a moins de texte à l’écran, ce qui en fait une plate-forme moins attrayante pour les trolls et les abus que, disons, Facebook ou Twitter, où leurs mots sont plus ciblés. Cela ne veut pas dire que ce n’est pas un problème sur Instagram, ni pour diminuer l’importance de telles actions sur la plate-forme, mais l’accent moindre sur les éléments de texte peut signifier que Facebook peut utiliser les tests d’Instagram de leur système DeepText à cette fin comme point de recherche pour une mise en œuvre plus large dans leurs autres applications.
Et cela a également du sens pour Instagram – la plate-forme compte désormais jusqu’à 700 millions d’utilisateurs actifs par mois et connaît une croissance rapide, alors qu’elle est particulièrement populaire auprès du jeune public. Le biais plus jeune rend la nécessité de telles mesures encore plus urgente – le suicide reste la deuxième cause de décès chez les personnes âgées de 10 à 24 ans aux États-Unis. En tant que tel, tout ce qui peut être fait pour aider est positif.
En plus de cela, Instagram étend également son filtre anti-spam pour détecter le contenu dans neuf langues différentes – anglais, espagnol, portugais, arabe, français, allemand, russe, japonais et chinois. Et à noter – le nouveau filtre de commentaires offensants ne sera disponible qu’en anglais pour commencer.
Il sera intéressant de voir comment ces mesures combinées améliorent l’expérience utilisateur sur Instagram et si leur système raffiné peut former une sorte de modèle pour d’autres plateformes. Comme indiqué, éliminer les trolls et les abus est une préoccupation essentielle, et les plateformes travaillent déjà ensemble sur des fronts similaires pour trouver de meilleures solutions.
Espérons que ces nouvelles mesures donneront des résultats positifs et feront avancer le processus.
