Гендиректор Meta (запрещена в РФ)* Platforms META (запрещена в РФ)* Марк Цукерберг сказал во вторник, что конкуренция и связанные с разработкой ИИ риски дают компаниям, работающим в этой отрасли, достаточно оснований для самостоятельных действий в области безопасности - слова, которые, судя по всему, указывают на то, что он не поддерживает призывы руководителей ведущих ИИ-компаний к согласованному замедлению развития искусственного интеллекта.
"Доверие и соответствие систем ИИ целям и ценностям человека быстро становятся важнейшими характеристиками, которые будут отличать агентов и модели друг от друга, - сказал во вторник Цукерберг. - Любой разработчик, который не сосредоточен на этом соответствии, отстанет".
Глава Meta (запрещена в РФ)* добавил, что разработчики мотивированы предотвращать вред, который могли бы причинить их модели, поскольку в ином случае их ожидает значительная ответственность. В качестве примера он привел решение своей компании отложить выпуск ИИ-агента Muse ранее в 2026 году, чтобы повысить уровень его безопасности.
Эти комментарии подчеркивают расхождения во взглядах среди представителей руководства компаний в отрасли и американских властей относительно того, как реагировать на предупреждения о том, что технология развивается быстрее, чем фирмы способны ее контролировать.
Генеральный директор Anthropic Дарио Амодеи в выходные призвал компании, занимающиеся ИИ, замедлить темпы совершенствования возможностей моделей, вслед за предупреждениями ряда исследователей об экзистенциальных рисках для человечества.
Глава OpenAI Сэм Альтман и владелец xAI Илон Маск спустя считанные часы поддержали высказывания Амодеи.
* Деятельность Meta Platforms Inc. по реализации продуктов - социальных сетей Facebook и Instagram на территории РФ запрещена по основаниям осуществления экстремистской деятельности
