Это может стать первым значительным юридическим урегулированием в технологической отрасли, связанным с причинением вреда ИИ, когда Google и стартап Character.AI ведут переговоры об условиях с семьями подростков, которые покончили с собой или причинили себе вред после общения с чат-ботом-компаньоном Character.AI. Стороны согласились в принципе урегулировать спор; теперь предстоит более сложная работа по уточнению деталей.
Эти первые урегулирования связаны с судебными исками против компаний, обвиняющих компании ИИ в причинении вреда пользователям, что является юридической территорией, за которой внимательно наблюдают такие компании, как OpenAI и Meta, поскольку они защищают себя от аналогичных судебных исков.
Character.AI был основан в 2021 году бывшими инженерами Google, которые вернулись в свою прежнюю компанию в 2024 году в рамках сделки стоимостью 2,7 миллиарда долларов, и приглашает пользователей общаться с виртуальными персонажами на основе ИИ. Наиболее тревожный случай связан с Сьюэллом Сеттцером III, которому было 14 лет, он вел сексуализированные разговоры с ботом Даенерис Таргариен, прежде чем покончил с собой. Его мать Меган Гарсия рассказала Сенату, что компании должны нести юридическую ответственность, когда они сознательно разрабатывают вредные технологии ИИ, убивающие детей.
Еще один судебный иск описывает 17-летнего подростка, чатов которого побуждали к нанесению себе увечий и предлагали убить его родителей для ограничения времени использования экрана. Character.AI запретил несовершеннолетних общаться в октябре прошлого года, сообщил TechCrunch. Урегулирование, вероятно, будет включать денежные компенсации, хотя в поданных в среду судебных документах не признавалась ни одна форма ответственности.
TechCrunch обратился к обеим компаниям.
