Il y a eu beaucoup de discussions ces derniers temps sur le taux de discours de haine sur Twitter et sur la question de savoir s’il y a plus de contenu haineux partagé dans l’application sous Elon Musk.
Étant donné qu’Elon a supervisé la réintégration de dizaines de milliers d’utilisateurs précédemment interdits et a attisé le sentiment anti-gouvernemental et anti-establishment avec ses propres tweets, il est logique que de tels incidents soient en augmentation, tandis que Musk a également mis en place un approche de la parole plus ouvertequi est conçu pour permettre à davantage de types de commentaires et de contenu de rester actifs dans l’application, au lieu de les supprimer.
En pesant ces éléments, on pourrait penser que le discours de haine aurait augmenté – mais selon Twitter, il a en fait diminué.
Mais une analyse tierce suggère le contraire, avec des taux de discours de haine qui augmenteraient sur « Twitter 2.0 ».
Alors, qu’est-ce qui est vrai, et pourquoi ces rapports varient-ils de manière si significative ?
L’écart dans les rapports provient probablement de différentes méthodes de rapport.
Dans un rapport d’analyse tiers, réalisé par le Center for Countering Digital Hate (CCDH) en décembre, qui a révélé que les insultes contre les Noirs et les transgenres avaient augmenté d’environ 60 % depuis la prise de contrôle de Musk, il note que :
« Les chiffres couvrent toutes les mentions d’une insulte donnée ou de son équivalent au pluriel dans les tweets en anglais dans le monde entier et incluent les retweets et les retweets de citation.
Il est donc basé uniquement sur les mentions de termes clés et sur les taux d’apparition de chacun de ces termes dans l’application. Ce qui est un bon indicateur pour mesurer la fréquence relative de tels événements, mais la propre analyse de Twitter, qui a été menée par le partenaire Sprinklr (publiée le mois dernier), adopte une approche plus nuancée.
« Le modèle de toxicité de Sprinklr analyse les données et catégorise le contenu comme « toxique » s’il est utilisé pour rabaisser un individu, attaquer une catégorie protégée ou déshumaniser des groupes marginalisés. L’intégration de facteurs tels que la langue récupérée et le contexte a permis à notre modèle d’éliminer également les faux positifs et les faux négatifs. Le modèle utilise l’IA pour déterminer l’intention et le contexte autour des mots-clés signalés, afin d’aider les marques à comprendre ce qui est vraiment toxique.”
Ainsi, Sprinklr mesure non seulement les termes clés, mais également la manière dont ils sont réellement utilisés, ce qui, selon lui, est un moyen plus précis de suivre une telle activité.
Certains termes péjoratifs, par exemple, peuvent être utilisés dans un contexte qui n’est pas offensant – ce qui, en fait, selon Sprinklr, est la majorité.
« Le pourcentage de tweets identifiés comme toxiques dans l’ensemble de données contenant des mots-clés insultants était d’environ 15 % sur la période analysée. Bien que chaque tweet contienne un mot insultant identifié, ils sont principalement utilisés dans des contextes non toxiques comme le discours récupéré ou les salutations informelles.
Cela donne une idée de la raison pour laquelle Twitter affirme que le discours de haine a en fait diminué, car avec des rapports plus avancés, qui tiennent compte du contexte, et pas seulement des mentions, les taux globaux de discours de haine, tels qu’ils le mesurent, diminuent, même si, comme certains rapports l’ont suggéré, les mentions se multiplient.
Pourtant, cela ne tient pas compte de toutes les analyses de tiers. En mars, l’Institut pour le dialogue stratégique (ISD) a publié son propre rapport qui montrait ‘un pic important et soutenu de messages antisémites sur Twitter depuis le rachat de l’entreprise par Elon Musk.’
Et contrairement au rapport du CCDH, les données de l’ISD reflètent des nuances, similaires au processus Sprinklr.
« Il s’agit d’un défi de recherche qui nous oblige à aller bien au-delà du simple comptage de la fréquence de certains mots ou phrases, et à utiliser à la place l’apprentissage automatique et le traitement du langage naturel pour former des modèles et des flux de travail capables de gérer des formes de langage complexes et à multiples facettes, ce qui signifie et expression. »
Comme vous pouvez le voir, sur la base des conclusions de l’ISD, Twitter héberge davantage de discours de haine, dans des paramètres spécifiques. ISD a également noté que Twitter supprime désormais plus de contenu, donc il agit. Mais il voit également plus d’activité, qui concerne spécifiquement les tweets antisémites, mais même à une échelle plus limitée dans l’élément plus large du discours de haine, c’est évidemment une préoccupation majeure.
Alors, qu’est-ce qui est réellement correct et quel est le rapport avec vos promotions ?
Cela dépendra en grande partie de votre point de vue et de la confiance que vous accordez à l’équipe de Twitter pour lutter contre cet élément. Twitter indique que le discours de haine, dans l’ensemble, est en baisse, mais il n’y a aucune transparence sur la façon dont il est arrivé à ces chiffres, tandis que des rapports tiers mesurant des éléments spécifiques indiquent qu’il est en hausse, via une méthodologie variable.
Twitter propose désormais davantage de contrôles de placement des annonces et de mesures d’adéquation à la marque pour rassurer davantage les annonceurs sur le fait que leurs promotions ne seront pas affichées parallèlement aux discours de haine. Mais c’est un facteur clé qui explique pourquoi de nombreux annonceurs Twitter se sont retirés de l’application et continuent de le faire.
Cela devrait-il être une préoccupation pour vos promotions ? Comprendre la variance dans les rapports, lors de la visualisation de ces données, est essentiel pour contextualiser cet élément.
