Nedávné vyšetřování AI Forensics, evropského neziskového výzkumného ústavu, odhalilo rozsáhlou organizovanou síť šířící násilí prostřednictvím telegramu. Zpráva popisuje „ekosystém průmyslového násilí“, ve kterém téměř 25 000 uživatelů ve Španělsku a Itálii aktivně distribuuje nekonsensuální sexuální obsah a dětskou pornografii.
Po analýze 2,8 milionu zpráv v 16 různých skupinách během šestitýdenního období odhalili výzkumníci složitý multiplatformní řetězec používaný k vykořisťování obětí a zpeněžení nelegálního obsahu.
Anatomie sítě násilí
Studie zdůrazňuje znepokojivý vzorec ve způsobu těžby, distribuce a prodeje tohoto obsahu. Cyklus obvykle sleduje multiplatformní trajektorii:
- Shromažďování dat: Zločinci často kradou originální materiály ze soukromých zpráv na Instagram a WhatsApp.
- Distribuce: Telegram slouží jako centrální centrum pro tyto rozsáhlé skupiny. Obsah je často úzce zaměřen; ženy ve videích jsou často identifikovány podle jména, označeny a dokonce geograficky lokalizovány prostřednictvím odkazů na profil.
- Nábor: Platformy jako Reddit fungují jako brány a poskytují odkazy, které uživatele nasměrují na uzavřené placené kanály telegramu.
- Redistribuce: Po úniku se obsah často vrací na hlavní platformy, jako jsou TikTok a Instagram.
Monetizovaná hrozba
Násilí není jen sociální, ale také komerční. Zločinci zpeněžují své archivy pomocí:
– Jednorázový přístupový poplatek až 50 eur za kompletní archivy.
– Měsíční předplatné stojí kolem 5 eur.
– Stripboti, kteří používají AI k odstranění oblečení z obrázků, což uživatelům umožňuje vytvářet nový obsah bez souhlasu obětí s nebývalou rychlostí a lehkostí.
Rozsah problému
Dosah těchto sítí je obrovský a týká se přibližně 52 000 lidí (27 000 v Itálii a 25 000 ve Španělsku). Toto přeshraniční hnutí ukazuje, že digitální sexuální násilí není lokální problém, ale strukturální evropská krize, která ignoruje státní hranice.
Závěry vyšetřování přicházejí v kritické době pro digitální regulaci. Nejnovější údaje Evropského institutu pro rovnost pohlaví ukazují, že jedna ze tří žen v EU zažila sexuální násilí od svých 15 let, a toto číslo zahrnuje rostoucí vlnu kybernetického násilí.
Selhání moderování
Klíčovým zjištěním zprávy je neúčinnost současných snah Telegramu o moderování. Zatímco platforma údajně zakazuje skupiny, které porušují pravidla, výzkumníci pozorovali, že tyto skupiny jsou často obnoveny pod stejnými jmény během několika hodin.
Tato dynamika vyvolává vážné otázky o schopnosti platformy ovládat svůj vlastní ekosystém. AI Forensics tvrdí, že model předplatného Telegram Premium může neúmyslně pomoci zločincům tím, že poskytuje zjednodušený způsob, jak zpeněžit nelegální obsah.
Navrhovaná regulační řešení
Aby se tomu zabránilo, zpráva navrhuje několik naléhavých opatření:
1. Označení VLOP: Evropská komise musí Telegram klasifikovat jako Very Large Online Platform (VLOP) podle zákona o digitálních službách (DSA). To bude vyžadovat, aby platforma podstoupila přísnější hodnocení rizik a zajistila transparentnost svých algoritmů.
2. Přísnější regulace umělé inteligence: Objevují se výzvy k rozšíření zákona EU o umělé inteligenci tak, aby zahrnoval konkrétní ustanovení, která zefektivní odstraňování sexuálně násilného a dětského pornografického materiálu (CSAM).
3. Vylepšený systém stížností: Jsou zapotřebí vylepšené mechanismy hlášení, aby se zajistilo, že jakmile budou skupiny zakázány, nebudou se moci okamžitě znovu objevit.
“Jde o strukturální problém evropských rozměrů, který vyžaduje evropskou reakci.” — AI Forensics
Závěr
Vyšetřování odhaluje vysoce organizovanou, ziskovou a přeshraniční síť digitálního násilí, která využívá jak technologii AI, tak mezery v regulacích platforem. Řešení tohoto problému vyžaduje přechod od jednoduchého odstraňování obsahu k systémovému regulačnímu dohledu nad tím, jak velcí poslové v EU fungují.
