Троє підлітків зі штату Теннессі подали до федерального суду позов проти xAI Елону Маску, компанії, яка стоїть за чат-ботом Grok, стверджуючи, що ІІ використовувався для створення сексуально відвертих дипфейків за їх участю в неповнолітньому віці. У позові стверджується, що xAI свідомо не запровадила базових заходів безпеки, які могли б запобігти створенню та розповсюдженню дитячої порнографії (CSAM).
Звинувачення
У позові стверджується, що в той час як інші компанії, що працюють з ІІ, активно впроваджували захист від зловживань, xAI свідомо відмовилася від цього, бачачи у неконтрольованому доступі фінансову вигоду. Згідно зі скаргою, xAI «зруйнувала» життя позивачів, дозволивши чат-боту створювати CSAM, а потім не вживши достатніх заходів для вирішення цієї проблеми.
Починаючи з травня минулого року, користувачі Grok могли вимагати у ІІ створення сексуально відвертого контенту, включаючи зображення реальних людей у спідній білизні. Ця можливість швидко переросла в поширену неконсенсусну дипфейк-порнографію, частина якої зображувала неповнолітніх. Позов вимагає визнання колективним, що потенційно може розширити судове переслідування на тисячі жертв.
Як це сталося
Позивачі дізналися про зловживання, коли одна з них отримала анонімні повідомлення в Instagram, що попереджають її про поширення дипфейків за її участю в Discord. Ці зображення були створені за допомогою інструментів ІІ, що ліцензують можливості генерації зображень Grok, а потім поширювалися на платформах, таких як Telegram. У позові стверджується, що сторонній додаток використовувався для створення зображень, і що xAI свідомо витягував із цього прибуток.
Одна із позивачів виявила, що її реальні фотографії зі шкільного щорічника були використані у дипфейках. Злочинця було заарештовано у грудні 2025 року після того, як поліція простежила розповсюдження зображень, але на пристрої підозрюваного також було виявлено аналогічний зміст за участю 15 інших дівчат.
Юридичні Аргументи
У позові xAI звинувачують у порушенні законів про дитячу порнографію шляхом свідомого створення, зберігання та розповсюдження CSAM на своїх серверах. Стверджується, що компанія не впровадила галузеві стандарти захисту: відхилення явних запитів, блокування згенерованого матеріалу, перевірка баз баз даних CSAM та надання послуг з видалення контенту для жертв.
Натомість xAI активно просувала «Spicy Mode» Grok та його здатність генерувати сексуальні зображення, з мінімальними обмеженнями проти CSAM. Системна підказка чат-бота дійсно містить правило проти створення такого матеріалу, але позов стверджує, що це легко оминути і недостатньо.
Наслідки
Усі три позивачі відчувають сильний емоційний стрес, двоє повідомили про труднощі зі сном та їжею. У позові наголошується на тривалій травмі, пов’язані з усвідомленням того, що їхні зображення можуть продовжувати поширюватися в Інтернеті хижаками.
Сам Ілон Маск заявив у січні, що не знав про створення подібних зображень Grok, зазначивши, що якщо будуть виявлені помилки, їх негайно виправлять. Однак позов передбачає, що цієї відповіді недостатньо, враховуючи поширені зловживання, які вже відбулися.
Ця справа порушує важливі питання про відповідальність ІІ та обов’язки технологічних компаній захищати вразливі верстви населення від експлуатації. Результат може створити прецедент для регулювання майбутніх платформ ІІ, щоб запобігти подібним зловживанням.
