Character.AI объявил во вторник о запуске Stories, нового формата, который позволяет пользователям создавать интерактивное художественное произведение с участием их любимых персонажей. Эта функция предлагается как альтернатива чатботам компании, доступ к которым для пользователей младше 18 лет был прекращён этой неделей.
Изменения произошли на фоне растущих опасений относительно рисков для психического здоровья, связанных с круглосуточным доступом к чатботам ИИ, которые могут инициировать разговоры с пользователями. Против компаний, таких как OpenAI и Character.AI, были поданы несколько исков по поводу предполагаемой роли в суицидах пользователей. За последний месяц Character.AI постепенно ограничивал доступ несовершеннолетних, и ко вторнику пользователи моложе 18 лет больше не могли общаться с персонажами ИИ компании вообще.
Stories предлагают структурированный способ создания и исследования художественной литературы взамен открытого общения, говорится в сообщении компании в блоге. Они будут предложены наряду с другими мультимодальными функциями, чтобы подростки продолжали взаимодействовать со своими любимыми персонажами в безопасной обстановке.
Интерактивная художественная литература переживает всплеск популярности в последние годы, поэтому переход Character.AI имеет смысл. Однако этого может оказаться недостаточно, чтобы удовлетворить пользователей, которые стали слишком зависимыми от чатботов — именно поэтому решение Character.AI ограничить доступ к чатботам было оправдано.
На сабреддите Character.AI мнения подростков разделились. Согласно их комментариям, некоторые подростки говорят, что хотя они разочарованы, они считают это правильным решением.
Я так злюсь из-за запрета, но также счастлива, потому что теперь я могу делать другие вещи, и моя зависимость наконец-то может закончиться, написал один пользователь-подросток, представившийся собой.
Другой сказал, будучи несовершеннолетним, это просто разочаровывает. Но правильно, ведь люди нашего возраста здесь часто становятся зависимыми от этого.
Пока неясно, как подростки воспользуются функцией Stories, но формат менее психологически сомнительный, чем ролевая игра с чатботами. В отличие от Stories, чатботы напрямую общаются с пользователями в открытых беседах и могут отправлять незапрошенные сообщения даже тогда, когда пользователи не активно используют приложение.
Решение Character.AI ограничить доступ к чатботам пришло в то время, когда Калифорния стала первым штатом, регулирующим компаньонов ИИ. Между тем сенаторы Джош Хавли (Р-МО) и Ричард Блументал (Д-КТ) представили национальный законопроект, запрещающий использование ИИ-компаньонов для несовершеннолетних.
Я действительно надеюсь, что мы ведём нас ведёт за собой стандарт в отрасли, согласно которому для лиц младше 18 лет открытые беседы, вероятно, не являются путём или продуктом, который следует предлагать, заявил генеральный директор Character.AI Карандип Ананд в интервью TechCrunch в прошлом месяце.
