Een recent onderzoek door AI Forensics, een Europees non-profit onderzoeksinstituut, heeft een enorm, georganiseerd netwerk van misbruik blootgelegd dat actief is op Telegram. Het rapport onthult een ‘ecosysteem van misbruik op grote schaal’, waarin bijna 25.000 gebruikers in Spanje en Italië actief seksueel materiaal en kinderpornografie zonder wederzijds goedvinden verspreiden.
Door gedurende een periode van zes weken 2,8 miljoen berichten uit 16 verschillende groepen te analyseren, identificeerden onderzoekers een geavanceerde, platformoverschrijdende pijplijn die wordt gebruikt om slachtoffers uit te buiten en inkomsten te genereren met illegale inhoud.
De anatomie van het misbruiknetwerk
Het onderzoek wijst op een verontrustend patroon in de manier waarop deze inhoud wordt verkregen, gedistribueerd en verkocht. De cyclus volgt doorgaans een traject dat meerdere platforms omvat:
- Binnenkomst: Daders verzamelen vaak origineel materiaal uit privé-uitwisselingen op Instagram en WhatsApp.
- Distributie: Telegram fungeert als centrale hub voor deze grootschalige groepen. Inhoud is vaak zeer doelgericht; vrouwen die in video’s voorkomen, worden vaak benoemd, getagd en zelfs geolokaliseerd via gedeelde profiellinks.
- Rekrutering: Platformen zoals Reddit fungeren als ‘gateways’ en bieden links die gebruikers naar de privé, betaalde Telegram-kanalen leiden.
- Herdistributie: Eenmaal gelekt, migreert de inhoud vaak terug naar reguliere platforms zoals TikTok en Instagram.
Een bedreiging in geld
Het misbruik is niet louter sociaal; het is een commerciële onderneming. Daders verdienen geld met hun archieven door:
– Eenmalige toegangskosten tot € 50 voor volledige archieven.
– Maandelijkse abonnementen kosten ongeveer € 5.
– ‘Nudifying’-bots, die AI gebruiken om kleding van afbeeldingen te verwijderen, waardoor gebruikers met ongekende snelheid en gemak nieuwe niet-consensuele inhoud kunnen genereren.
De omvang van het probleem
Het bereik van deze netwerken is enorm en treft ongeveer 52.000 mensen (27.000 in Italië en 25.000 in Spanje). Deze grensoverschrijdende beweging suggereert dat digitaal seksueel geweld geen plaatselijke kwestie is, maar een “structurele Europese crisis** die nationale grenzen negeert.
De bevindingen komen op een cruciaal moment voor digitale regelgeving. Recente gegevens van het Europees Instituut voor Gendergelijkheid laten zien dat één op de drie vrouwen in de EU sinds haar vijftiende te maken heeft gehad met seksueel geweld, een cijfer dat ook de opkomende golf van cybergeweld omvat.
Het falen van moderatie
Een centrale bevinding van het rapport is de ontoereikendheid van de huidige moderatie-inspanningen van Telegram. Terwijl het platform naar verluidt misbruikende groepen afsluit, constateerden onderzoekers dat deze groepen vaak binnen enkele uren onder identieke namen worden hersteld.
Deze ‘whack-a-mole’-dynamiek roept serieuze vragen op over het vermogen van het platform om zijn eigen ecosysteem te controleren. AI Forensics stelt dat het Premium-abonnementsmodel van Telegram onbedoeld daders kan helpen door een gestroomlijnde manier te bieden om inkomsten te genereren met illegale inhoud.
Voorgestelde regelgevingsoplossingen
Om dit tegen te gaan, stelt het rapport verschillende urgente interventies voor:
1. VLOP-aanduiding: De Europese Commissie moet Telegram aanwijzen als een Very Large Online Platform (VLOP) onder de Digital Services Act (DSA). Dit zou het platform dwingen strengere risicobeoordelingen te ondergaan en transparantie te bieden met betrekking tot zijn algoritmen.
2. Strengere AI-regelgeving: Er is een oproep om de EU AI-wet uit te breiden met specifieke bepalingen die de verwijdering van materiaal zonder wederzijds goedvinden en seksueel misbruik van kinderen (CSAM) efficiënter maken.
3. Verbeterde rapportage: Verbeterde rapportagemechanismen zijn nodig om ervoor te zorgen dat wanneer groepen worden gemarkeerd, deze niet zomaar onmiddellijk opnieuw kunnen verschijnen.
“Dit is een structureel probleem dat Europees van aard is en een Europees antwoord vereist.” — AI Forensisch onderzoek
Conclusie
Het onderzoek legt een zeer georganiseerd, winstgevend en grenzeloos netwerk van digitaal misbruik bloot dat zowel AI-technologie als mazen in de platformen exploiteert. Om dit aan te pakken is het nodig om verder te gaan dan het simpelweg verwijderen van inhoud en naar systematisch regelgevend toezicht op de manier waarop grote berichtenplatforms binnen de EU opereren.
