АМСТЕРДАМ, 26 марта (Рейтер) - Голландский суд в четверг обязал xAI и чат-бот Grok Элона Маска не создавать и не распространять изображения "раздевающих" взрослых или детей или показывать их в сексуализированных позах с неполной или отсутствующей одеждой без их согласия в Нидерландах.
Предварительное постановление Амстердамского суда, которое может стать прецедентом в Европе, - один из первых случаев, когда судья высказался о ответственности xAI за создание инструментов, которые могут быть использованы для легкого создания сексуализированных изображений, на фоне потока жалоб и расследований в отношении Grok по всему миру.
В письменном решении суд указал, что xAI и Grok будут запрещены "создавать и/или распространять сексуальные изображения ... где люди частично или полностью раздеты без их явного разрешения", и накладет штрафы в размере 100 000 евро (115 350 долларов) в день, если компании не будут соблюдать это.
Также было приказано xAI не предлагать Grok на платформе социальных медиа X, ранее известной как Twitter, в случае нарушения приказа.
Иск был подан Offlimits, некоммерческой группой из Нидерландов, борющейся с онлайн-сексуальным насилием, совместно с некоммерческим Фондом поддержки жертв.
Адвокат xAI в Нидерландах передал вопросы xAI. xAI не ответила на запросы о комментариях.
На слушании в этом месяце xAI заявила, что не может полностью остановить злоупотребление своими инструментами и не должна нести наказание за действия злонамеренных пользователей.
Ее адвокаты заявили, что компания усилила меры безопасности в январе, чтобы предотвратить Grok от редактирования изображений реальных людей в откровенной одежде, в том числе ограничивая генерацию изображений для платных подписчиков.
Директор Offlimits Робберт Ховинг сказал, что судьи отклонили это как недостаточное после демонстрации в суде 9 марта, показавшей, что Grok все еще способен "раздевать" цифровые изображения людей без их согласия. "Бремя лежит на компании" - убедиться, что ее инструменты не используются для создания несанкционированных сексуальных изображений или сексуализированных изображений AI детей, - сказал Ховинг.
Решение вышло на фоне ужесточения европейских регуляторов в отношении Grok и других AI-инструментов в рамках Директивы о цифровых услугах ЕС, требующей от крупных платформ подавлять незаконный контент. Европейская комиссия начала официальное расследование в отношении X в январе из-за рисков, связанных с внедрением Grok в ЕС, включая манипулирование сексуально откровенными изображениями. В четверг Европейский парламент также поддержал запрет на приложения AI-нюдификаторы, которые создают или изменяют сексуально откровенные изображения.
(1 доллар = 0,8669 евро)
(Редактирование Тоби Стерлинг, Шарлотт Ван Кампенхаут и Хакан Эрсен; Правка: Сьюзен Фентон, Род Никель и Крис Риз)
