Fonctionnalités de modération des commentaires définies par l’utilisateur bientôt disponibles sur Instagram

Les abus et le harcèlement sur les réseaux sociaux sont un problème très réel et très difficile.

Le problème a de nouveau été mis en évidence récemment lorsque l’actrice Leslie Jones a annoncé qu’elle quittait Twitter en réponse à des attaques personnelles répétées – dont la discussion a conduit à l’interdiction permanente du blogueur de Brietbart Milo Yiannopoulos de la plate-forme. Twitter, pour sa part, a fait de la lutte contre les comportements antisociaux un élément clé de sa stratégie de revitalisation, mais comme cela a été souligné par ce cas et de nombreux cas similaires, il est difficile d’héberger un réseau social ouvert, où vous donnez chacun une plate-forme pour partager sa voix et s’assurer que tout le monde joue bien.

Plus que difficile, c’est pratiquement impossible.

Tous les réseaux sociaux doivent s’attaquer à ce problème, les dommages potentiels causés par de telles actions peuvent malheureusement changer la vie. Sur ce front, Instagram, qui a connu une croissance massive au cours des dernières années, travaille désormais à la mise en œuvre de sa propre solution pour lutter contre les trolls et les abus – et elle serait bientôt mise à la disposition de tous les utilisateurs.

Abattage de serpents

Comme vous l’avez peut-être entendu, la chanteuse Taylor Swift a récemment eu un désaccord avec The Wests – Kim et Kanye en particulier. L’essentiel du désaccord était que Swift a publiquement critiqué Kanye West pour sa mention d’elle dans une chanson récente – allant même jusqu’à faire allusion à la dispute dans son discours d’acceptation des Grammy. Mais l’épouse de Kanye, Kim (dont vous avez peut-être entendu parler) a produit plus tard la preuve d’un appel téléphonique entre Swift et West dans lequel Swift a été informé des paroles avant la sortie de la chanson, et les a même approuvées, ce qui, les fans des Wests, vu comme une justification que Swift était un menteur.

Ou, sous forme d’emoji, un serpent.

En tant que tel, le flux Instagram de Swift a été inondé d’emoji de serpent, avec des commentaires comme celui-ci par centaines dans le flux de Swift.

(Ces petites icônes vertes sont en fait des serpents)

En fait, les serpents étaient venus pour Swift même avant cela – après sa récente rupture avec le DJ / producteur Calvin Harris, il y avait littéralement des milliers de commentaires comme celui-ci sur toute la présence de Swift sur Instagram.

Mais alors, juste comme ça, ils étaient partis.

En une journée, tous les serpents avaient soudainement été retirés des flux de commentaires du chanteur.

Comme vous pouvez le voir, il existe encore de nombreuses mentions et variantes du terme « serpent », mais toutes les instances de l’emoji ont disparu. De plus, les utilisateurs ne pouvaient pas publier plus de serpents – une blogueuse de NYMag a essayé de publier des serpents en tant que commentaires sur le profil de Swift, et bien qu’elle ait apparemment pu publier les petits personnages verts, elle et ses collègues n’ont pas réellement pu trouver le commentaires dans les flux de commentaires de Swift.

Certains utilisateurs ont même déclaré qu’ils recevaient des messages d’erreur comme celui-ci lorsqu’ils essayaient d’utiliser un emoji de serpent sur le compte de Swift.

Cela a ensuite déclenché des discussions sur un complot, selon lequel Instagram travaillait secrètement pour offrir un traitement spécial à des célébrités comme Swift, mais l’outil utilisé pour abattre les serpents de Swift est en fait le nouvel outil anti-harcèlement, que la plate-forme cherche à mettre à la disposition de tous.

Sélection naturelle

Comme nous l’avons signalé il y a quelques semaines, Instagram teste un nouveau filtre de modération des commentaires pour les profils de marque.

Comme vous pouvez le voir ici, l’option est intégrée aux options des pages professionnelles – vous cochez l’option de modération des commentaires et Instagram filtrera le contenu potentiellement offensant de votre flux de commentaires, en fonction d’une liste de mots qu’ils ont identifiés comme problématiques. Mais ce n’est qu’une version basique des efforts de la plateforme sur ce front.

Selon Nicky Jackson Colaco, responsable des politiques publiques d’Instagram, ils travaillent sur un outil qui donnerait aux utilisateurs la possibilité de filtrer des commentaires spécifiques sur leurs images – ou de désactiver complètement les commentaires, s’ils le préfèrent.

En utilisant cet outil, les utilisateurs pourront lister les mots – ou emoji – qu’ils trouvent inappropriés et Instagram les éliminera ensuite de leurs fils de commentaires. Instagram cherche également à permettre aux utilisateurs de désactiver les commentaires poste par poste ou sur l’ensemble du profil.

Et bien qu’ils n’aient pas officiellement confirmé qu’il s’agit de l’outil utilisé par Swift pour nettoyer son alimentation de serpents, la connexion est logique.

Selon le Washington Post :

« Les comptes de haut niveau seront également les premiers à bénéficier de la fonctionnalité lors de sa mise en ligne dans les semaines à venir, car cela donne à Instagram les commentaires les plus précieux dans les plus brefs délais. Tous les utilisateurs verront des changements dans leurs commentaires dans les mois à venir. . »

C’est une option intéressante dans la lutte contre les abus, mettant plus de contrôle entre les mains des utilisateurs eux-mêmes – bien que, comme l’a noté The Verge, les options exactes qui seront mises à disposition doivent encore être confirmées, car Instagram est toujours en cours de test.

Mais encore une fois, à l’avenir, ce seront peut-être des algorithmes qui décideront de ce que nous faisons et ne voyons pas sur nos flux sociaux.

Surveillance de l’IA

Alors que le filtrage manuel donne aux utilisateurs plus de contrôle, Yahoo travaille sur un système d’apprentissage automatique qui a montré des résultats positifs dans la détection et l’élimination des commentaires abusifs. Résultats vraiment positifs.

« Dans 90 % des cas de test, il a pu identifier correctement un commentaire abusif – un niveau de précision inégalé par les humains et d’autres approches d’apprentissage en profondeur de pointe. »

Le système de Yahoo adopte une approche différente des processus de filtrage habituels. Selon The Next Web :

« [The system is] ne pas rechercher des mots spécifiques, mais des mots en combinaison avec d’autres, ainsi que la longueur globale du message, la ponctuation et d’autres mesures pour déterminer ce qui constitue un abus. Des humains entraînés ont également évalué les commentaires, une méthode utilisée pour aider l’IA à repérer les nuances subtiles qu’elle aurait manquées avec une approche spécifique au mot. »

Cette méthode élimine bon nombre des problèmes de faux positifs rencontrés par de tels systèmes – si vous recherchez certains mots, l’algorithme ne peut pas déterminer s’il est utilisé de manière sarcastique, par exemple.

Le projet de Yahoo est encore en phase de test, mais cela semble être une étape positive – et lorsque l’on considère les autres avancées en matière de reconnaissance de la langue et de traitement contextuel de Google et Facebook, il n’est pas difficile d’imaginer un moment où de tels commentaires pourraient être éradiqués de l’existence sans jamais atteindre les yeux humains.

Lutter contre le harcèlement est un défi énorme et important, sous toutes ses formes, mais en particulier dans les médias sociaux. Ceci est particulièrement pertinent si l’on considère le rôle que les plateformes sociales jouent désormais dans les habitudes interactives des personnes jeunes et plus impressionnables. Le suicide, il convient de le noter, est la deuxième cause de décès chez les personnes âgées de 10 à 24 ans aux États-Unis

Il est crucial que nous fassions tout notre possible pour lutter contre ce problème.