Article réservé aux abonnésModération de la cyberviolence : l'intervention humaine est rarement aussi proactive que l'IA
Des chercheurs de plusieurs universités belges constatent que la modération sur les réseaux sociaux n'est ni suffisante, ni assez transparente.
- Publié le 21-11-2023 à 19h11
Un jeune sur trois âgé de 15 à 25 ans a déjà été victime de propos haineux en ligne ou de la diffusion de contenu à caractère sexuel. C'est l'une des conclusions de "@ntidote", une enquête menée par des chercheurs des universités d'Anvers, de Liège et de l'UCLouvain Saint-Louis Bruxelles.
La recherche, qui a interrogé plus de 2 800 jeunes Belges, révèle notamment que pour la période allant de 2016 à 2021, moins de 200 plaintes ont été déposées pour discours haineux en ligne et environ 400 pour diffusion non consentie de contenu à caractère sexuel. Un nombre très limité qui tranche nettement avec la fréquence des actes de violence en ligne chez les jeunes. Cerise sur le gâteau : la grande majorité de ces plaintes est classée sans suite. "Il est très difficile de déposer plainte et lorsqu'une plainte est déposée, trop d'obstacles empêchent l'affaire d'être portée devant un tribunal. Cela peut bien évidemment décourager encore davantage les victimes de se tourner vers la police", explique la professeur Catherine Van de Heyning (Université d'Anvers).
Un constat affligeant qui interroge la responsabilité des réseaux sociaux et des modérateurs. L'étude estime que ces derniers "n'en font pas assez. La modération des contenus en ligne sur les réseaux sociaux n'est pas assez transparente pour les utilisateurs. Alors que les conditions générales – accessibles aux utilisateurs des réseaux sociaux – sont assez vagues quant à ce qui est autorisé sur les plateformes, les modérateurs travaillent en interne sur la base d'un document bien plus complet laissant très peu de place à leur interprétation personnelle."
L'intelligence artificielle en tant que modératrice
Autre élément relatif à la modération : de plus en plus de réseaux sociaux ont recours à l'intelligence artificielle pour modérer les contenus des plateformes. Ces outils techniques semblent être principalement utilisés pour prévenir ou détecter le "contenu inadmissible", terme préféré à "cyberviolence". L'intervention humaine, elle, est rarement aussi proactive : les modérateurs – souvent non professionnels – se contentent de réagir aux notifications des utilisateurs ou aux contenus signalés par les outils d'intelligence artificielle.
Les chercheurs espèrent que le Digital Services Act, la loi européenne sur les services numériques récemment entrée en vigueur, permettra d'améliorer la lutte contre le contenu en ligne illégal. Cette législation impose en effet une série de nouvelles obligations aux fournisseurs de services en ligne, ainsi qu'une obligation de coopérer avec les autorités policières et judiciaires. Si ces obligations varient en fonction du service et de la taille du fournisseur, elles visent une plus grande transparence sur la manière dont ceux-ci traitent le "contenu inadmissible".
"Les entreprises de réseaux sociaux n'adaptent pas toujours leur politique à l'endroit où les utilisateurs se trouvent. De plus, la manière dont les politiques sont établies et dont elles évoluent n'est pas très claire", ajoute la professeur Vanessa Franssen (ULiège). "Si les responsables politiques nationaux veulent définir plus clairement les limites de ce qui est autorisé sur les réseaux sociaux, ils devront le faire au niveau de l'Union européenne."