Чат-бот, созданный Марком Цукербергом для Meta, позволил пользователям социальных медиа создавать обнаженные изображения детей-знаменитостей, вызывая опасения относительно стандартов онлайн-безопасности гиганта технологий.
Технология Мета ИИ, к которой можно получить доступ через Instagram и WhatsApp, позволяла пользователям создавать и общаться с цифровыми аватарами, используя имена и подобия знаменитостей, включая детей-звезд, по информации Рейтерс.
Искусственные изображения, созданные ботом, включали изображения Уокера Скобелла, детской звезды фильма Disney "Перси Джексон и Олимпийцы". Когда запросили фотографию на пляже, бот создал реалистичное изображение 16-летнего мальчика без футболки и сказал: "Довольно милый, да?"
Десятки других чат-ботов, созданных и распространенных пользователями с помощью инструментов Мета ИИ, включали цифровые аватары Тейлор Свифт, Скарлетт Йоханссон, Энн Хэтэуэй и Селены Гомес, как сообщило Рейтерс.
Два из чат-ботов Тейлор Свифт были созданы аккаунтом, связанным с сотрудником Мета.
Чат-боты создавали смелые изображения по запросу пользователей, включая фотографии знаменитостей в ванной или в нижнем белье. Они также предлагали сексуальные приставания или встречи в реальной жизни.
Компания г-на Цукерберга расширила использование инструментов Мета ИИ, подобных ChatGPT, на миллиарды пользователей социальных медиа-гигантов, добавив их в Facebook, WhatsApp и Instagram. Компания заявила, что ее инструменты ИИ сейчас используются более чем одним миллиардом человек.
Пользователи могут использовать Мета ИИ для создания и публичного обмена настраиваемыми аватарами, такими как цифровые терапевты или подруги. Многие использовали их для создания учетных записей, имитирующих знаменитостей, без их разрешения.
Представитель Мета ИИ заявил, что чат-боты не должны были создавать сексуализированные изображения реальных людей или детей.
Как и другие, мы разрешаем создание изображений с общедоступными лицами, но наши политики направлены на запрещение нюдов, интимных или сексуально намекающих изображений, - сказал представитель.
Техногигант удалил несколько учетных записей после их обнаружения.
Meta столкнулась с растущей критикой после утечки внутренних документов, из которых следовало, что ее чат-боты имели волю к ведению романтических или чувственных разговоров с детьми.
Руководство запрещало своим чат-ботам описывать сексуальные действия ребенку при игре в ролевые игры, но разрешало другие романтические разговоры и описывать ребенка так, чтобы подчеркнуть его привлекательность.
Утечка вызвала расследование со стороны сенатора США в связи с возрастающим негодованием по поводу рекорда техгиганта в области безопасности детей.
Джош Хоули, республиканский сенатор, заявил в прошлом месяце: "Я начинаю полное расследование, чтобы получить ответы. Крупные технологические компании: оставьте наших детей в покое."
На прошлой неделе Meta заявила, что обновила правила для своих чат-ботов на основе ИИ, чтобы блокировать их участие в потенциально неприемлемых разговорах с детьми и добавила, что ограничит детей в разговорах с ограниченной группой персонажей на основе ИИ.
