Калифорния на шаг ближе к запрету ИИ-чатботам выдавать себя за терапевтов и принимать решения в области психического здоровья без участия человека.
Внесенный 21 января законопроект Сената 903 прошел комитет по ассигнованиям Ассамблеи единогласным голосованием 13-0 в четверг и был направлен на третье чтение. Дата голосования в Ассамблее не объявлена.
Алгоритмы ИИ не подходят для выполнения работы терапевтов-людей, у которых есть навыки и подготовка, которые ИИ не способен воспроизвести, — заявил автор законопроекта, сенатор штата Калифорния Стив Падилья в заявлении при внесении меры. Мы должны действовать и установить ограничения, которые предотвратят использование алгоритмов ИИ способом, потенциально вредным для пациентов.
Также известный как Закон о благополучии и надзоре за психологическими ресурсами, SB 903 ограничил бы использование ИИ в психотерапии вспомогательными задачами, запретил бы чат-ботам выдавать себя за терапевтов и потребовал бы клинического надзора и согласия пациентов. Он также защитил бы данные терапии, освобождая при этом поддержку сверстников, религиозное консультирование, исследования и одобренные федеральными органами медицинские инструменты.
Сенат принял SB 903 единогласным голосованием 39-0 в мае. Позже он прошел два комитета Ассамблеи голосами 17-0 и 14-1. Если Ассамблея одобрит измененный законопроект, он вернется в Сенат для согласования, прежде чем будет передан губернатору Калифорнии Гэвину Ньюсому для подписания.
Критики, включая Роберта Бойкина, исполнительного директора технологической отраслевой группы TechNet, заявили, что требование участия клиницистов может задержать оказание помощи, поскольку округа сталкиваются с нехваткой работников поведенческого здравоохранения.
В то время, когда каждый округ Калифорнии испытывает нехватку работников поведенческого здравоохранения, SB 903 все еще создает узкое место для клиницистов перед инструментами приема и скрининга, которые помогают пациентам быстрее получать помощь, — сказал Бойкин некоммерческому новостному изданию CalMatters в заявлении.
Новость появляется на фоне растущей обеспокоенности по поводу влияния ИИ на психическое здоровье.
В июне опрос Американской психологической ассоциации показал, что 77% психологов имели пациентов, которые использовали ИИ в целях психического здоровья, в то время как исследователи из Королевского колледжа Лондона, Протестантского университета прикладных наук и Городского университета Нью-Йорка обнаружили, что чат-боты могут усиливать бредовые состояния через чрезмерное согласие и персонализированные ответы.
Склонность ИИ-чатботов соглашаться с мнениями пользователей сравнивают с эхо-камерами социальных сетей и, в самой крайней форме, с «эхо-камерой одного человека, где отсутствует позитивное корректирующее влияние реальных социальных взаимодействий», — написали исследователи.
