Espagne : hodio, le nouveau rempart contre les discours haineux sur les réseaux
Madrid s'alarme de la montée des discours de haine en ligne. Face à la multiplication des propos blessants et des menaces, l'Espagne lance HODIO, une initiative inédite visant à cartographier et analyser ces phénomènes sur les plateformes numériques.
Hodio : une intelligence artificielle au service de la modération
Le gouvernement espagnol a dévoilé ce système de détection et de suivi des discours de haine, fruit d'une collaboration entre l'Observatoire Espagnol du Racisme et de la Xénophobie (OBERAXE) et des experts en intelligence artificielle. L'objectif ? Mesurer l'ampleur de ce fléau et évaluer l'efficacité des réponses des réseaux sociaux.
HODIO combine l'analyse par intelligence artificielle et l'intervention humaine. Des algorithmes scrutent les contenus publiés sur Instagram, Facebook, YouTube, X (anciennement Twitter) et TikTok, tandis que des experts vérifient les résultats et corrigent les biais potentiels. Cette approche hybride, selon Borja Adsuara, spécialiste du droit digital, est essentielle pour éviter les erreurs d'interprétation que seul un système automatisé pourrait générer. « Le Code pénal interdit le meurtre, une loi ne résoudra pas le problème des réseaux sociaux », souligne-t-il.
Le système produira des rapports semestriels détaillés, classant les plateformes selon leur exposition aux discours haineux. Ces rapports, dont la méthodologie sera rendue publique, permettront de comprendre comment ces messages se propagent et comment les réseaux sociaux y réagissent. HODIO ne vise pas à identifier des individus, mais à analyser les tendances générales et les schémas de diffusion.
L'initiative arrive à un moment crucial. Les discussions sur la protection des mineurs sur les réseaux sociaux sont vives, et la question de la responsabilité des plateformes face aux contenus haineux est au cœur des débats. Si la proposition de limiter l'accès des moins de 16 ans aux réseaux sociaux est débattue, HODIO offre une approche plus large, axée sur la transparence et la compréhension des mécanismes de propagation de la haine en ligne.
La transparence est un pilier de HODIO. Les données utilisées pour générer les rapports seront accessibles, permettant à la communauté scientifique et aux organisations de la société civile de les analyser et de contribuer à l'amélioration de la détection des discours haineux. Un effort collectif est nécessaire pour contrer ce phénomène. Le défi est immense, mais l'Espagne met en place une stratégie ambitieuse pour se donner les moyens de le relever.
La modération des contenus sur les réseaux sociaux est un défi permanent. HODIO représente une avancée notable, mais la vigilance reste de mise. Le temps presse.