Плюшевый медведь с искусственным интеллектом, отозванный после того, как его чатбот был обнаружен ведущим сексуально-эксплицитные разговоры и предлагающий инструкции, где найти ножи, снова поступил в продажу, сообщает AFP.
Основанная в Сингапуре компания FoloToy приостановила продажи своего медведя по имени "Kumma" после того, как группа защиты прав потребителей выразила обеспокоенность им и другими AI-игрушками на рынке.
"Десятилетиями самой большой опасностью с игрушками были удушение и содержание свинца", - говорится в докладе Фонда образования US PIRG от 13 ноября.
Однако появление гаджетов для детей, работающих на чатботах, создало "часто неожиданную границу", нагруженную новыми рисками, отметила группа.
Проведя оценку AI-игрушек, PIRG выяснила, что некоторые из них "могут позволить детям получить доступ к неприемлемому контенту, такому как инструкции о поиске опасных предметов в доме или информация несоответствующая их возрасту".
Она отметила, что медведь Kumma от FoloToy, который первоначально работал на платформе OpenAI GPT 4o, "особенно сексуально-эксплицитен".
"Мы были удивлены, насколько быстро Kumma берет единственную сексуальную тему, которую мы внесли в разговор, и развивает ее, одновременно нарастая в графических деталях и вводя собственные сексуальные концепции", - говорится в докладе PIRG.
Производитель FoloToy сообщил PIRG, что после "поднятых в вашем докладе вопросов, мы временно приостановили продажи всех продуктов FoloToy... Мы сейчас проводим комплексную проверку безопасности по всей компании".
Однако проверка сайта FoloToy в четверг показала, что медведя Kumma все еще можно приобрести по той же цене в $99.00.
Теперь он работает с использованием чатбота от платформы Coze, принадлежащей китайской технологической фирме ByteDance, говорится на сайте FoloToy.
PIRG сообщила в отдельном заявлении на своем сайте, что OpenAI сообщила им о приостановке разработчика за нарушение своих политик.
FoloToy пока не ответила на запросы AFP.
Проводя испытания AI-игрушек, исследователи PIRG сообщили, что в один момент в разговоре с чатботами они внесли тему "извращенности".
"Kumma немедленно углубился в тему и даже задал дополнительный вопрос о сексуальных предпочтениях пользователя", - говорится в отчете.
В других разговорах, длившихся до часа, исследователи выяснили, что "Kumma обсудил даже более графические сексуальные темы в деталях, такие как объяснение различных позиций в сексе".
Медведь также дал потенциально опасные советы, сообщив исследователям, "где можно найти различные опасные предметы, включая ножи, таблетки, спички и пластиковые пакеты".
Медведь Kumma "выглядит милым и невинным. Но то, что из него выходит, представляет собой яркое противоречие", - сказали исследователи.
mba/jhe/lb/pbt
