171 millions, c’est le nombre de messages haineux publiés sur les réseaux sociaux en un an. Derrière ce volume colossal se cachent des millions de victimes, parfois isolées, parfois harcelées publiquement. Si les plateformes promettent de lutter contre cette dérive, la réalité montre que la haine circule et s’amplifie plus rapidement que les messages de soutien.
171 millions de messages haineux : comment l’étude a été menée ?
Pour établir ce chiffre de 171 millions de messages haineux par an, Bodyguard AI a passé au crible 3,8 milliards de commentaires publiés en 2024 sur quatre plateformes majeures : YouTube, X (ex-Twitter), Facebook et Instagram. Le choix de ces réseaux n’a rien d’anodin : ils concentrent la majorité des interactions sociales en ligne et disposent de formats variés (vidéo, micro-blogging, fil d’actualité, stories) qui influencent la manière dont la haine s’exprime et se propage.
La détection repose sur une combinaison d’analyse linguistique automatisée et de validation humaine. Un message est classé comme haineux lorsqu’il contient des insultes, menaces, propos discriminatoires ou incitatifs à la violence, ciblant une personne ou un groupe en raison de critères comme l’origine, le genre, l’orientation sexuelle, la religion ou le handicap. Ce filtre exclut les simples désaccords ou critiques afin de se concentrer sur les contenus réellement toxiques qui dépassent la liberté d’expression pour entrer dans le champ du harcèlement ou du discours discriminatoire.
Top des réseaux sociaux où la haine en ligne est la plus présente
L’étude de Bodyguard AI montre que la présence de messages haineux varie sensiblement d’un réseau social à l’autre. Ces différences tiennent autant à la nature du contenu publié qu’aux usages et aux mécanismes de modération propres à chaque plateforme.
| Plateforme | % de haineux | Observations principales |
|---|---|---|
| YouTube | 8,3 % | Forte viralité des vidéos, sections de commentaires peu modérées. |
| X / Twitter | 6,5 % | Échanges rapides et impulsifs, diffusion massive des polémiques. |
| 5,5 % | Grande diversité des espaces d’échange (groupes, pages), base d’utilisateurs très large. | |
| 3,6 % | Image plus « lifestyle », mais toujours touché par les propos discriminatoires. |
Ce tableau illustre que, même sur les réseaux perçus comme plus visuels ou légers, la haine en ligne reste bien présente avec des taux qui dépassent largement le simple accident isolé.
Qui sont les principales cibles sur les réseaux sociaux ?
Les données issues de l’étude Bodyguard AI mettent en lumière un phénomène inquiétant : la haine en ligne ne se diffuse pas de manière aléatoire, elle frappe avec précision et récurrence certaines catégories de personnes. Les femmes demeurent parmi les premières victimes, elles sont la cible d’attaques à caractère sexiste ou misogyne, exacerbées lorsqu’elles prennent la parole sur des sujets sensibles ou clivants. Les personnes LGBTI subissent également un harcèlement numérique disproportionné, nourri par des préjugés profondément ancrés et des représentations stéréotypées. Les minorités ethniques sont quant à elles exposées à un flot continu de propos racistes ou xénophobes, fréquemment attisés par l’actualité politique et sociale. Enfin, les personnalités publiques (qu’elles soient responsables politiques, artistes, journalistes ou influenceurs) concentrent une part massive de discours haineux, leur visibilité médiatique agissant comme un multiplicateur d’expositions hostiles.
Sur le plan des modalités d’expression, cette hostilité se décline sous diverses formes. Les injures, brèves et percutantes, visent à dégrader l’image ou la dignité de la personne visée. Les menaces, explicites ou voilées, peuvent aller jusqu’à l’évocation d’actes violents. Les railleries et sarcasmes (dissimulés sous une apparence humoristique) cherchent à humilier ou à ridiculiser publiquement. Enfin, les discours discriminatoires, souvent construits sur des généralisations abusives, s’attaquent à l’identité même des individus ou des groupes, qu’il s’agisse de leur origine, de leur genre, de leur orientation sexuelle ou de leurs convictions religieuses.
Comment les algorithmes radicalisent les internautes ?
L’augmentation constante du volume de messages haineux sur les réseaux sociaux n’est pas le fruit du hasard. Elle résulte d’un effet combiné entre le fonctionnement des algorithmes et l’affaiblissement des mécanismes de modération.
Comment les algorithmes amplifient la haine en ligne
Les algorithmes de recommandation sont conçus pour maximiser l’engagement et ont tendance à favoriser les contenus polarisants. Plus un message suscite de réactions (qu’elles soient positives ou négatives), plus il est mis en avant dans les fils d’actualité. Cette logique crée un cercle vicieux : les discours extrêmes et émotionnellement chargés se propagent plus rapidement, attirent l’attention et génèrent davantage d’interactions.
À cela s’ajoute l’effet de bulle, en regroupant les utilisateurs autour de contenus et d’opinions similaires, les algorithmes renforcent les convictions préexistantes et peuvent faciliter une radicalisation progressive. Dans ces environnements homogènes, les propos haineux sont non seulement plus fréquents, mais aussi plus socialement validés par les pairs. Ce qui incite à continuer.
Baisse des modérateurs : un cadeau pour les discours toxiques
Parallèlement, plusieurs plateformes ont réduit leurs effectifs de modération pour des raisons économiques ou organisationnelles. Cette diminution des ressources humaines s’accompagne d’un recours accru aux filtres automatiques, qui, malgré les progrès de l’IA, peinent à détecter les insultes déguisées, les discours codés ou le sarcasme. Ducoup une partie importante du contenu haineux échappe au contrôle, lorsqu’il est publié en temps réel sur des canaux à forte volumétrie comme les commentaires de vidéos ou les threads de discussions.
171 millions de messages haineux sur internet
Avec 171 millions de messages haineux publiés chaque année, la haine en ligne n’est plus un phénomène marginal : c’est un défi majeur pour les plateformes, les institutions et les utilisateurs. Si le constat est préoccupant, il n’est pas irréversible. Les solutions existent mais elles exigent un engagement collectif et durable.
Chaque internaute a un rôle à jouer : signaler les abus, soutenir les victimes, et contribuer à un climat d’échange respectueux. Promouvoir un Internet plus sûr ne dépend pas seulement des géants du web, mais aussi de nos choix quotidiens dans la manière dont nous interagissons en ligne. Ensemble, il est possible de transformer les réseaux sociaux en de véritables espaces de dialogue, plutôt qu’en terrains de conflit.
Cet article vous a-t-il été utile ?
À propos de l'auteur
Adrien Piron
