Une enquête récente menée par AI Forensics, un institut de recherche européen à but non lucratif, a découvert un réseau massif et organisé d’abus opérant sur Telegram. Le rapport révèle un « écosystème d’abus à grande échelle », dans lequel près de 25 000 utilisateurs en Espagne et en Italie distribuent activement du matériel sexuel non consensuel et de la pédopornographie.
En analysant 2,8 millions de messages provenant de 16 groupes différents sur une période de six semaines, les chercheurs ont identifié un pipeline multiplateforme sophistiqué utilisé pour exploiter les victimes et monétiser les contenus illégaux.
L’anatomie du réseau d’abus
L’étude met en évidence une tendance inquiétante dans la manière dont ce contenu est obtenu, distribué et vendu. Le cycle suit généralement une trajectoire multiplateforme :
- Sourcing : Les auteurs récupèrent souvent du matériel original à partir d’échanges privés sur Instagram et WhatsApp.
- Distribution : Telegram sert de plaque tournante centrale pour ces groupes à grande échelle. Le contenu est souvent très ciblé ; les femmes présentées dans les vidéos sont fréquemment nommées, taguées et même géolocalisées via des liens de profil partagés.
- Recrutement : des plateformes comme Reddit agissent comme des « passerelles », fournissant des liens qui dirigent les utilisateurs vers les chaînes Telegram privées et payantes.
- Redistribution : Une fois divulgué, le contenu migre souvent vers les plateformes grand public comme TikTok et Instagram.
Une menace monétisée
L’abus n’est pas seulement social ; c’est une entreprise commerciale. Les auteurs monétisent leurs archives via :
– Frais d’accès uniques pouvant aller jusqu’à 50 € pour les archives complètes.
– Abonnements mensuels coûtant environ 5 €.
– Les robots « Nudifying », qui utilisent l’IA pour retirer les vêtements des images, permettant aux utilisateurs de générer de nouveaux contenus non consensuels avec une rapidité et une facilité sans précédent.
L’ampleur du problème
La portée de ces réseaux est vaste, touchant environ 52 000 personnes (27 000 en Italie et 25 000 en Espagne). Ce mouvement transfrontalier suggère que la violence sexuelle numérique n’est pas un problème localisé mais une crise structurelle européenne qui ignore les frontières nationales.
Les résultats arrivent à un moment critique pour la réglementation numérique. Des données récentes de l’Institut européen pour l’égalité des genres montrent qu’une femme sur trois dans l’UE a été victime de violence sexuelle depuis l’âge de 15 ans, un chiffre qui inclut la vague croissante de cyberviolence.
L’échec de la modération
L’une des principales conclusions du rapport est l’insuffisance des efforts de modération actuels de Telegram. Alors que la plateforme aurait fermé les groupes abusifs, les chercheurs ont observé que ces groupes sont souvent rétablis sous des noms identiques en quelques heures.
Cette dynamique de « coup de taupe » soulève de sérieuses questions sur la capacité de la plateforme à contrôler son propre écosystème. AI Forensics affirme que le modèle d’abonnement Premium de Telegram peut aider par inadvertance les auteurs d’infractions en fournissant un moyen rationalisé de monétiser le contenu illégal.
Solutions réglementaires proposées
Pour lutter contre cela, le rapport suggère plusieurs interventions urgentes :
1. Désignation VLOP : La Commission européenne devrait désigner Telegram comme une Très grande plateforme en ligne (VLOP) en vertu de la loi sur les services numériques (DSA). Cela obligerait la plateforme à se soumettre à des évaluations de risques plus strictes et à assurer la transparence concernant ses algorithmes.
2. Règlementation plus stricte sur l’IA : Il existe un appel pour élargir la Loi de l’UE sur l’IA afin d’inclure des dispositions spécifiques qui rendent plus efficace la suppression des contenus non consensuels et pédopornographiques (CSAM).
3. Rapports améliorés : Des mécanismes de signalement améliorés sont nécessaires pour garantir que lorsque des groupes sont signalés, ils ne peuvent pas simplement réapparaître immédiatement.
“Il s’agit d’un problème structurel de portée européenne qui exige une réponse européenne.” — Médecine légale de l’IA
Conclusion
L’enquête révèle un réseau d’abus numériques hautement organisé, rentable et sans frontières, qui exploite à la fois la technologie de l’IA et les failles de la plateforme. Pour résoudre ce problème, il faut aller au-delà de la simple suppression de contenu et s’orienter vers une surveillance réglementaire systémique du fonctionnement des grandes plateformes de messagerie au sein de l’UE.
