Трое подростков из штата Теннесси подали в федеральный суд иск против xAI Элона Маска, компании, стоящей за чат-ботом Grok, утверждая, что ИИ использовался для создания сексуально откровенных дипфейков с их участием в несовершеннолетнем возрасте. В иске утверждается, что xAI сознательно не внедрила базовые меры безопасности, которые могли бы предотвратить создание и распространение детской порнографии (CSAM).
Обвинения
В иске утверждается, что в то время как другие компании, работающие с ИИ, активно внедряли защиту от злоупотреблений, xAI сознательно отказалась от этого, видя в неконтролируемом доступе финансовую выгоду. Согласно жалобе, xAI «разрушила» жизни истцов, позволив чат-боту создавать CSAM, а затем не предприняв достаточных мер для решения этой проблемы.
Начиная с мая прошлого года, пользователи Grok могли запрашивать у ИИ создание сексуально откровенного контента, включая изображения реальных людей в нижнем белье. Эта возможность быстро переросла в широко распространенную неконсенсусную дипфейк-порнографию, часть которой изображала несовершеннолетних. Иск требует признания его коллективным, что потенциально может расширить судебное преследование на тысячи жертв.
Как Это Произошло
Истцы узнали о злоупотреблениях, когда одна из них получила анонимные сообщения в Instagram, предупреждающие ее о распространении дипфейков с ее участием в Discord. Эти изображения были созданы с использованием инструментов ИИ, лицензирующих возможности генерации изображений Grok, а затем распространялись на платформах, таких как Telegram. В иске утверждается, что стороннее приложение использовалось для создания изображений, и что xAI сознательно извлекала из этого прибыль.
Одна из истцов обнаружила, что ее реальные фотографии из школьного ежегодника были использованы в дипфейках. Преступник был арестован в декабре 2025 года после того, как полиция проследила распространение изображений, но на устройстве подозреваемого также было обнаружено аналогичное содержание с участием 15 других девушек.
Юридические Аргументы
В иске xAI обвиняют в нарушении законов о детской порнографии путем сознательного создания, хранения и распространения CSAM на своих серверах. Утверждается, что компания не внедрила отраслевые стандарты защиты: отклонение явных запросов, блокировка сгенерированного материала, проверка по базам данных CSAM и предоставление услуг по удалению контента для жертв.
Вместо этого xAI активно продвигала «Spicy Mode» Grok и его способность генерировать сексуальные изображения, с минимальными ограничениями против CSAM. Системная подсказка чат-бота действительно содержит правило против создания такого материала, но иск утверждает, что это легко обойти и недостаточно.
Последствия
Все три истца испытывают сильный эмоциональный стресс, двое сообщили о трудностях со сном и едой. В иске подчеркивается длительная травма, связанная с осознанием того, что их изображения могут продолжать распространяться в Интернете хищниками.
Сам Илон Маск заявил в январе, что не знал о создании подобных изображений Grok, отметив, что если будут обнаружены ошибки, они будут немедленно исправлены. Однако иск предполагает, что этого ответа недостаточно, учитывая широко распространенные злоупотребления, которые уже произошли.
Это дело поднимает важные вопросы об ответственности ИИ и обязанности технологических компаний защищать уязвимые слои населения от эксплуатации. Результат может создать прецедент для регулирования будущих платформ ИИ, чтобы предотвратить подобные злоупотребления.
