Eine aktuelle Untersuchung von AI Forensics, einem europäischen gemeinnützigen Forschungsinstitut, hat ein riesiges, organisiertes Missbrauchsnetzwerk aufgedeckt, das auf Telegram operiert. Der Bericht deckt ein „Ökosystem des Missbrauchs in großem Maßstab“ auf, in dem fast 25.000 Nutzer in Spanien und Italien aktiv nicht einvernehmliches sexuelles Material und Kinderpornografie verbreiten.
Durch die Analyse von 2,8 Millionen Nachrichten aus 16 verschiedenen Gruppen über einen Zeitraum von sechs Wochen identifizierten die Forscher eine ausgeklügelte, plattformübergreifende Pipeline, die dazu dient, Opfer auszubeuten und illegale Inhalte zu monetarisieren.
Die Anatomie des Missbrauchsnetzwerks
Die Studie zeigt ein beunruhigendes Muster bei der Beschaffung, Verbreitung und dem Verkauf dieser Inhalte. Der Zyklus folgt typischerweise einem plattformübergreifenden Verlauf:
- Beschaffung: Täter sammeln oft Originalmaterial von privaten Plattformen auf Instagram und WhatsApp.
- Verbreitung: Telegram dient als zentraler Knotenpunkt für diese großen Gruppen. Inhalte sind oft sehr zielgerichtet; In Videos gezeigte Frauen werden häufig über freigegebene Profillinks benannt, markiert und sogar geolokalisiert.
- Rekrutierung: Plattformen wie Reddit fungieren als „Gateways“ und stellen Links bereit, die Benutzer zu den privaten, kostenpflichtigen Telegram-Kanälen leiten.
- Weiterverbreitung: Sobald der Inhalt durchgesickert ist, wandert er oft zurück auf Mainstream-Plattformen wie TikTok und Instagram.
Eine monetisierte Bedrohung
Der Missbrauch ist nicht nur gesellschaftlicher Natur; es handelt sich um ein Handelsunternehmen. Täter monetarisieren ihre Archive durch:
– Einmalige Zugriffsgebühren von bis zu 50 € für vollständige Archive.
– Monatliche Abonnements kosten ca. 5 €.
– „Nudifying“-Bots, die mithilfe von KI Kleidung aus Bildern entfernen und es Benutzern ermöglichen, mit beispielloser Geschwindigkeit und Leichtigkeit neue, nicht einvernehmliche Inhalte zu generieren.
Das Ausmaß des Problems
Die Reichweite dieser Netzwerke ist enorm und betrifft etwa 52.000 Menschen (27.000 in Italien und 25.000 in Spanien). Diese grenzüberschreitende Bewegung legt nahe, dass digitale sexuelle Gewalt kein lokales Problem ist, sondern eine strukturelle europäische Krise, die nationale Grenzen ignoriert.
Die Ergebnisse kommen zu einem kritischen Zeitpunkt für die digitale Regulierung. Aktuelle Daten des Europäischen Instituts für Gleichstellungsfragen zeigen, dass eine von drei Frauen in der EU seit ihrem 15. Lebensjahr sexuelle Gewalt erlebt hat, eine Zahl, die die steigende Flut von Cybergewalt einschließt.
Das Versagen der Moderation
Ein zentrales Ergebnis des Berichts ist die Unzulänglichkeit der aktuellen Moderationsbemühungen von Telegram. Während die Plattform Berichten zufolge missbräuchliche Gruppen schließt, stellten Forscher fest, dass diese Gruppen häufig innerhalb weniger Stunden unter identischen Namen wieder gegründet werden.
Diese „Whack-a-Mole“-Dynamik wirft ernsthafte Fragen über die Fähigkeit der Plattform auf, ihr eigenes Ökosystem zu überwachen. AI Forensics argumentiert, dass das Premium-Abonnementmodell von Telegram Tätern unbeabsichtigt helfen könnte, indem es eine optimierte Möglichkeit bietet, illegale Inhalte zu monetarisieren.
Vorgeschlagene regulatorische Lösungen
Um dem entgegenzuwirken, schlägt der Bericht mehrere dringende Maßnahmen vor:
1. VLOP-Bezeichnung: Die Europäische Kommission sollte Telegram als Very Large Online Platform (VLOP) gemäß dem Digital Services Act (DSA) ausweisen. Dies würde die Plattform zu strengeren Risikobewertungen zwingen und Transparenz über ihre Algorithmen schaffen.
2. Strengere KI-Regulierung: Es wird gefordert, das EU-KI-Gesetz um spezifische Bestimmungen zu erweitern, die die Entfernung von nicht einvernehmlichem und sexuellem Missbrauch von Kindern (CSAM) effizienter machen.
3. Verbesserte Berichterstattung: Es sind verbesserte Berichtsmechanismen erforderlich, um sicherzustellen, dass Gruppen, wenn sie markiert werden, nicht einfach sofort wieder auftauchen.
„Dies ist ein strukturelles Problem, das europäischer Tragweite ist und eine europäische Antwort erfordert.“ — KI-Forensik
Schlussfolgerung
Die Untersuchung deckt ein hochorganisiertes, profitables und grenzenloses Netzwerk des digitalen Missbrauchs auf, das sowohl KI-Technologie als auch Plattformlücken ausnutzt. Um dieses Problem anzugehen, muss man über die bloße Löschung von Inhalten hinausgehen und hin zu einer systemischen Regulierungsaufsicht darüber, wie große Messaging-Plattformen in der EU funktionieren.
