(Bloomberg) -- Эксперты по искусственному интеллекту и лидеры отрасли, включая Илона Маска, профессора компьютерных наук Калифорнийского университета в Беркли Стюарта Рассела и соучредителя Apple Inc. Стива Возняка, призывают разработчиков нажать кнопку паузы при обучении мощных моделей искусственного интеллекта.
Более 1100 человек в отрасли подписали петицию, призывающую к шестимесячному перерыву в обучении системам искусственного интеллекта, более мощным, чем последняя итерация ChatGPT от OpenAI, чтобы обеспечить разработку общих протоколов безопасности.
“В последние месяцы лаборатории искусственного интеллекта оказались втянутыми в бесконтрольную гонку за разработкой и внедрением все более мощных цифровых умов, которые никто - даже их создатели - не может понять, предсказать или надежно контролировать”, – говорится в открытом письме, опубликованном на веб–сайте Future of Life Institute. “Мощные системы искусственного интеллекта следует разрабатывать только после того, как мы будем уверены, что их эффект будет положительным, а риски управляемыми”.
Звонок поступил после запуска за последние несколько месяцев серии проектов искусственного интеллекта, которые убедительно выполняют человеческие задачи, такие как написание электронных писем и создание произведений искусства. В этом месяце OpenAI, поддерживаемый корпорацией Microsoft, выпустил GPT-4, крупное обновление своего чат-бота на базе искусственного интеллекта, способного рассказывать анекдоты и сдавать тесты, такие как экзамен на адвоката.
Главный исполнительный директор OpenAI Сэм Альтман, чье имя появилось в списке подписантов во вторник вечером, не подписывал петицию, заявила представитель OpenAI Ханна Вонг. “Также я думаю, важно отметить, что мы потратили более шести месяцев — после завершения обучения GPT-4 — на безопасность и настройку модели”, - сказал Вонг.
Google и Microsoft из Alphabet Inc. входят в число компаний, использующих искусственный интеллект для улучшения своих поисковых систем, в то время как Morgan Stanley использует GPT-4 для создания чат-бота для своих консультантов по вопросам благосостояния.
Согласно письму, разработчики должны сотрудничать с политиками для создания новых систем управления искусственным интеллектом и надзорных органов. В нем содержался призыв к правительствам вмешаться в разработку систем искусственного интеллекта, если крупные игроки в ближайшее время не согласятся на публичную, поддающуюся проверке паузу.
“Исследования и разработки в области искусственного интеллекта должны быть переориентированы на то, чтобы сделать современные мощные, ультрасовременные системы более точными, безопасными, интерпретируемыми, прозрачными, надежными, согласованными, заслуживающими доверия и лояльными”, - говорится в нем.
Йошуа Бенгио, основатель и научный директор канадского исследовательского института искусственного интеллекта Mila, подписал петицию, говорится в заявлении института. Эмад Мостак, основатель и генеральный директор Stability AI, также сказал, что подписал его.
“Мы убедились в удивительных возможностях GPT-4 и других массовых моделей. Те, кто их производит, сами заявили, что они могут представлять экзистенциальную угрозу для общества и даже человечества, без какого-либо плана по полному снижению этих рисков”, - сказал Мостак. “Пришло время отложить коммерческие приоритеты в сторону и взять паузу для всеобщего блага, чтобы оценить ситуацию, а не мчаться в неопределенное будущее”.
Институт будущего жизни - некоммерческая организация, которая стремится снизить риски, связанные с мощными технологиями, и считает Фонд Маска своим крупнейшим спонсором.
“Все главные подписанты в списке были независимо проверены”, - сказал Энтони Агирре, представитель института. “Выполнение этого для всего списка превышает наши возможности”.
Представитель Центра гуманных технологий, исполнительный директор которого Тристан Харрис подписал письмо, заявил, что предпринимаются шаги для предотвращения поддельных подписей. Новые подписанты теперь требуют проверки со стороны персонала перед размещением на сайте, и все перечисленные высокопоставленные подписанты были проверены путем прямого общения, сообщил представитель по электронной почте.
-- При содействии Эда Ладлоу, Дины Басс и Марка Бергена.
(Обновления с комментариями с помощью OpenAI в пятом абзаце.)
©2023 Bloomberg L.P.
