В коллективном исковом заявлении в федеральном суде Калифорнии утверждается, что модель Grok компании xAI создала эксплицитные изображения трех подростков с использованием лицензированного стороннего приложения.
Жалоба, поданная 16 марта, называет xAI - компанию по искусственному интеллекту, основанную Илоном Маском, ответчиком в деле, поданном тремя подростками из Теннесси, утверждающими, что их модель Grok использовалась для создания материалов, изображающих сексуальное насилие над детьми.
Жалоба, поданная в окружном суде Северного округа Калифорнии, называет ответчиками X.AI Corp. и X.AI LLC. Истцы, идентифицированные как Джейн Доу 1, Джейн Доу 2 и Джейн Доу 3, утверждают, что злоумышленник завязал отношения хотя бы с одним из них и использовал фотографии, собранные из социальных сетей, школьного альбома и изображения, отправленные им, чтобы создать эксплицитные изображения и видео.
По данным жалобы, злоумышленник не имел прямого доступа к Grok или X. Он использовал стороннее приложение, которое, по утверждению истцов, было лицензиатом технологии xAI и маршрутизировало создание изображений через серверы xAI. Среди файлов было видео, на котором одна из истцов раздевалась до полного обнажения, причем изображения были фотореалистичными и не помечены как созданные искусственным интеллектом.
Используя изображения по крайней мере 18 дополнительных несовершеннолетних, злоумышленник создавал сексуально-эксплицитный материал, которым он затем торговал за контент, изображающий других детей в Telegram и Discord, - говорится в жалобе. Полиция арестовала его в конце декабря 2025 года.
Этот иск является первым случаем, когда несовершеннолетние, изображенные на материалах с сексуальным насилием, предположительно созданных моделью xAI, подали в суд на компанию, - сообщает NPR.
В жалобе обвиняется xAI в умышленном обходе стандартных отраслевых мер безопасности, включая фильтры контента, тестирование на проникновение, сравнение хэшей с известными базами данных материалов с сексуальным насилием над детьми и обязательное уведомление властей, - что делают конкуренты, такие как Google и OpenAI. Иск также утверждает, что xAI извлекала прибыль от лицензирования Grok сторонним разработчикам, часто находящимся за пределами США, в качестве способа избежать ответственности.
Адвокат истцов Ванесса Бер-Джонс заявила, что цель заключается в том, чтобы превратить разрешение на сексуальный контент, созданный искусственным интеллектом, в экономически нецелесообразный выбор. "Мы хотим, чтобы это перестало иметь какой-либо экономический смысл", - сказала она NPR.
В жалобе перечислены 13 обвинений, включая федеральные обвинения в производстве, распространении и хранении детской порнографии в соответствии с Законом Маши, претензии по Закону о защите жертв торговли и притязания по законодательству штата Калифорния о недобросовестной конкуренции, праве на публичность и нескольким видам небрежности. Истцы требуют по крайней мере $150 000 в виде статутных компенсаций за каждое нарушение, а также компенсацию морального ущерба и судебный приказ прекратить предполагаемые действия xAI.
Все три истца утверждают, что они испытали серьезное психологическое расстройство. Джейн Доу 1, которая уведомила других жертв и помогла начать уголовное расследование, нуждалась в академических адаптациях в школе. Джейн Доу 2, которая до сих пор учится, говорит, что тревога нарушила ее сон настолько, что ей потребовалась медицинская помощь, и теперь она боится своего собственного выпускного. Джейн Доу 3 говорит, что постоянно боится, что люди, с которыми она знакомится, могли уже видеть изображения.
Компания xAI не ответила на запрос о комментарии, - сообщает NPR.
