Trzej nastolatkowie z Tennessee złożyli pozew federalny przeciwko xAI Elona Muska, firmy stojącej za chatbotem Grok, twierdząc, że sztuczna inteligencja była wykorzystywana do tworzenia deepfakeów o charakterze jednoznacznie seksualnym, gdy byli nieletni. W pozwie zarzucono, że xAI świadomie nie wdrożyło podstawowych środków bezpieczeństwa, które mogłyby zapobiec tworzeniu i rozpowszechnianiu dziecięcej pornografii (CSAM).
Zarzuty
W pozwie zarzuca się, że podczas gdy inne firmy zajmujące się sztuczną inteligencją agresywnie wdrożyły zabezpieczenia przed nadużyciami, xAI celowo zdecydowała się tego nie robić, widząc korzyści finansowe w niekontrolowanym dostępie. Zgodnie ze skargą xAI „zrujnowało” życie powodów, umożliwiając chatbotowi utworzenie CSAM, a następnie nie podejmując wystarczających kroków w celu rozwiązania problemu.
Od maja ubiegłego roku użytkownicy Groka mogli prosić sztuczną inteligencję o tworzenie treści o charakterze jednoznacznie seksualnym, w tym zdjęć prawdziwych ludzi w bieliźnie. Możliwość ta szybko przekształciła się w powszechną, opartą na konsensusie fałszywą pornografię, z których część przedstawiała nieletnich. Pozew ma na celu pozew zbiorowy, który może potencjalnie rozszerzyć postępowanie karne na tysiące ofiar.
Jak to się stało
Powódki dowiedziały się o nadużyciu, gdy jedna z nich otrzymała anonimowe wiadomości na Instagramie ostrzegające ją, że na Discordzie rozpowszechniane są jej fałszywe fałszywki. Obrazy te zostały utworzone przy użyciu narzędzi AI licencjonowanych na możliwości generowania obrazów Grok, a następnie dystrybuowane na platformach takich jak Telegram. W pozwie zarzucono, że do utworzenia obrazów wykorzystano aplikację strony trzeciej i że xAI świadomie czerpało z tego korzyści.
Jedna z powodów odkryła, że w deepfakesach wykorzystano jej prawdziwe zdjęcia z rocznika szkolnego. Sprawcę aresztowano w grudniu 2025 r., po tym jak policja prześledziła dystrybucję zdjęć, ale na urządzeniu podejrzanego znaleziono także podobne treści z udziałem 15 innych dziewcząt.
Argumenty prawne
W pozwie zarzuca się xAI naruszenie przepisów dotyczących pornografii dziecięcej poprzez świadome tworzenie, przechowywanie i dystrybucję CSAM na swoich serwerach. Firma rzekomo nie wdrożyła branżowych standardów ochrony: odrzucała wyraźne żądania, blokowała wygenerowane materiały, sprawdzała bazy danych CSAM i zapewniała ofiarom usługi usuwania treści.
Zamiast tego xAI aktywnie promowało „Spicy Mode” Groka i jego zdolność do generowania obrazów seksualnych, przy minimalnych ograniczeniach wobec CSAM. Komunikat systemowy chatbota zawiera wprawdzie zakaz tworzenia takich materiałów, ale w pozwie twierdzi się, że jest to łatwe do obejścia i niewystarczające.
Konsekwencje
Wszyscy trzej powodowie doświadczyli poważnego niepokoju emocjonalnego, a dwóch zgłosiło problemy ze snem i jedzeniem. Pozew podkreśla trwałą traumę związaną ze świadomością, że ich zdjęcia mogą być nadal udostępniane w Internecie przez drapieżniki.
Sam Elon Musk powiedział w styczniu, że nie miał świadomości powstania takich obrazów Groka, zaznaczając, że w przypadku wykrycia błędów zostaną one natychmiast poprawione. Z pozwu wynika jednak, że reakcja ta jest niewystarczająca, biorąc pod uwagę powszechne nadużycia, które już miały miejsce.
Sprawa rodzi ważne pytania dotyczące odpowiedzialności sztucznej inteligencji i odpowiedzialności firm technologicznych za ochronę bezbronnych populacji przed wyzyskiem. Wynik może stanowić precedens w zakresie regulacji przyszłych platform sztucznej inteligencji, aby zapobiegać podobnym nadużyciom.
