Plus tôt cette année, Instagram a déployé une nouvelle invite contextuelle suggérant aux utilisateurs de reconsidérer leur commentaire de publication si l’IA de détection d’Instagram pensait qu’un tel commentaire pouvait être interprété comme offensant.
Instagram dit que ce type d’invite a donné des résultats positifs, et maintenant, alors que nous nous dirigeons vers les vacances, Instagram étend la même chose aux légendes de publication, qui seront désormais également examinées par l’IA de détection anti-intimidation d’Instagram.
Comme expliqué par Instagram:
« Aujourd’hui, lorsque quelqu’un écrit une légende pour un message de fil, et que notre IA détecte la légende comme potentiellement offensante, il recevra une invite l’informant que sa légende est similaire à celles signalées pour intimidation. Ils auront la possibilité de modifier leur légende avant qu’elle ne soit publiée. «
Comme vous pouvez le voir dans l’exemple ci-dessus, le nouveau processus ajoute une étape supplémentaire au modèle de détection et d’alerte, avec une invite indiquant que des légendes similaires ont déjà été signalées. Le processus n’empêchera pas les utilisateurs d’inclure leur sous-titre potentiellement offensant de toute façon, mais c’est une autre mesure pour amener les utilisateurs à prendre un moment pour considérer les conséquences de leurs actions et ce qu’ils peuvent partager.
Instagram ne fournit pas de détails sur la manière dont ses avertissements de commentaires existants ont aidé, mais dans le dernier rapport de transparence de Facebook, il a noté que:
« Le contenu traité est passé de 2,5 millions de contenus au T2 2019 à 3,2 millions au T3 2019, alors que nous avons renforcé notre application de notre politique sur l’intimidation et le harcèlement. «
Facebook ne fournit pas d’informations sur l’application de l’intimidation et du harcèlement pour Instagram en particulier, mais comme le note Instagram, ses mesures combinées – qui comprendraient également le fait de se cacher comme des comptes et d’ajouter de nouveaux éléments comme « Restreindre » – ont un impact, en fonction de ses mesures pour tel.
Sans avoir une idée précise de ce que sont ces mesures, nous devrons les croire sur parole, mais clairement, la sécurité des utilisateurs et nous assurer qu’Instagram est une plate-forme où tous les utilisateurs se sentent en sécurité pour s’exprimer est un objectif clé sous le nouveau chef Adam Mosseri.
Les nouvelles invites d’avertissement de sous-titrage seront déployées dans certains pays et se développeront à l’échelle mondiale dans les mois à venir.
