Les plus vulnérables visés De qui proviennent les discours haineux et injurieux sur les réseaux sociaux?

Selon une étude australienne, les personnalités politiques américaines de droite généreraient plus de discours haineux et de messages injurieux que leurs homologues de gauche. Cette recherche souligne l'impact des figures publiques sur le débat politique et la modération des contenus en ligne.

Pour parvenir à cette conclusion, les chercheurs de cette étude de l'Université de Sydney, parue dans Computer Speech & Language, ont analysé la teneur de plus de 300.000 tweets émanant de quinze personnalités politiques américaines. Sur les 1.133 tweets classés comme discours haineux, 1.094 provenaient de personnalités de droite contre 39 pour celles de gauche. Les personnalités de droite ont contribué à 5.029 des 5.299 tweets définis comme abusifs, contre 270 pour celles de gauche.

Parmi les personnalités de droite, certaines figures se distinguent par leur nombre élevé de contenus problématiques. La commentatrice Ann Coulter, connue pour ses positions jugées conservatrices, est responsable de près de la moitié des discours haineux dans l'ensemble de données, avec 464 des 1.133 tweets classés comme tels. L'ancien président Donald Trump a également apporté sa pierre à l'édifice avec 85 messages classés comme discours haineux et 197 comme injurieux.

Les chercheurs ont développé un modèle d'apprentissage automatique capable de détecter les discours haineux avec une précision accrue, en s'appuyant sur des ensembles de données multiples. Le modèle a été entraîné sur huit ensembles de données publiques, provenant de plateformes telles que Twitter, Reddit et Gab. Ces ensembles de données variaient dans leurs définitions du discours haineux, couvrant des aspects tels que le racisme, le sexisme et les insultes générales. De cette façon, l'outil était plus à même de détecter différents types de discours de haine.

«Il n'existe généralement pas de définition unique du discours de haine; le discours de haine est un continuum, car la haine peut être exprimée ouvertement en utilisant des insultes et des références directes ou secrètement en utilisant le sarcasme et même l'humour», a déclaré Marian-Andrei Rizoiu à PsyPost. «Notre étude développe des outils pour tenir compte de ces nuances en exploitant plusieurs ensembles de données de formation et une nouvelle technique d'apprentissage automatique appelée apprentissage par transfert».

Du côté des personnalités politiques de gauche, le sénateur Bernie Sanders, l'ancien président Barack Obama et l'ancienne première dame Michelle Obama n'ont eu aucun tweet classé comme abusif. La représentante Alexandria Ocasio-Cortez est à l'origine de quatre tweets classés comme discours haineux et quatre comme messages injurieux, tandis que sa consoeur Ilhan Omar en a eu 23 classés comme discours haineux et 46 comme messages injurieux.

Des discours qui visent les plus vulnérables

Les contenus haineux des personnalités de droite ciblaient souvent des groupes spécifiques, notamment les musulmans, les femmes, les immigrants et les personnes de couleur. «Nous avons constaté que la plupart des tweets haineux visaient des sujets tels que la religion (particulièrement l'islam), la politique, la race et l'ethnicité, les femmes et les réfugiés et immigrants,» explique Marian-Andrei Rizoiu. «Il est intéressant de noter que la majorité des discours haineux étaient dirigés vers les groupes les plus vulnérables.»

Cette étude met en lumière le problème de modération des réseaux sociaux et la nécessité de mettre en place des outils plus efficaces pour modérer les discours haineux sur les plateformes. «La détection n'est que la première étape pour aborder un problème en ligne», souligne Rizoiu. «La question est de savoir comment développer et déployer des méthodes efficaces dans le monde réel en ligne, qui peuvent protéger contre les contenus préjudiciables sans entraver des droits tels que la liberté d'expression».

Relax