(Добавлена справочная информация о нормативно-правовой базе искусственного интеллекта, пункты 9-12)
Автор: Грег Бенсингер
25 мая (Reuters) - OpenAI, стартап, стоящий за популярным чат-ботом с искусственным интеллектом ChatGPT, заявил в четверг, что выделит 10 равных грантов из фонда в размере 1 миллиона долларов на эксперименты в демократических процессах, чтобы определить, как следует управлять программным обеспечением искусственного интеллекта для устранения предвзятости и других факторов.
Гранты в размере 100 000 долларов будут предоставлены получателям, которые представят убедительные основы для ответов на такие вопросы, как, должен ли ИИ критиковать общественных деятелей и что он должен считать “среднестатистическим человеком” в мире, говорится в сообщении в блоге, анонсирующем фонд.
Критики говорят, что системам искусственного интеллекта, таким как ChatGPT, присуща предвзятость из-за входных данных, используемых для формирования их взглядов. Пользователи нашли примеры расистских или сексистских результатов работы программного обеспечения с искусственным интеллектом. Растут опасения, что искусственный интеллект, работающий бок о бок с поисковыми системами, такими как Google от Alphabet Inc и Bing от Microsoft Corp, может убедительно выдавать неверную информацию.
OpenAI, получивший поддержку в размере 10 миллиардов долларов от Microsoft, возглавляет призыв к регулированию искусственного интеллекта. Тем не менее, недавно она пригрозила выходом из Европейского союза из-за предложенных правил.
"Нынешний проект закона ЕС об искусственном интеллекте был бы чрезмерно регламентирующим, но мы слышали, что он будет отменен", - заявил Reuters исполнительный директор OpenAI Сэм Альтман. "Они все еще говорят об этом".
Гранты стартапа не позволили бы профинансировать такой объем исследований в области искусственного интеллекта. Зарплаты инженеров по искусственному интеллекту и других специалистов в высокотехнологичном секторе легко превышают 100 000 долларов и могут превышать 300 000 долларов.
Системы искусственного интеллекта “должны приносить пользу всему человечеству и быть сформированы таким образом, чтобы быть максимально инклюзивными", - говорится в сообщении OpenAI в блоге. "Мы запускаем эту грантовую программу, чтобы сделать первый шаг в этом направлении".
Стартап из Сан-Франциско заявил, что результаты финансирования могут сформировать его собственные взгляды на управление искусственным интеллектом, хотя и заявил, что никакие рекомендации не будут "обязательными".
Альтман был ведущей фигурой, призывающей к регулированию искусственного интеллекта, одновременно выпуская новые обновления для ChatGPT и генератора изображений DALL-E. В этом месяце он выступил перед подкомитетом Сената США, заявив: “Если эта технология пойдет не так, как надо, она может пойти совсем не так”.
Microsoft также недавно одобрила всеобъемлющее регулирование ИИ, хотя и пообещала внедрить эту технологию в свои продукты, соревнуясь с OpenAI, Google и стартапами в предложении ИИ потребителям и бизнесу.
Почти каждый сектор заинтересован в потенциале ИИ для повышения эффективности и сокращения затрат на рабочую силу, наряду с опасениями, что ИИ может распространять дезинформацию или фактические неточности, то, что инсайдеры отрасли называют “галлюцинациями”.
Искусственный интеллект уже стоит за несколькими широко распространенными подделками. Одно недавнее фальшивое вирусное изображение взрыва возле Пентагона ненадолго повлияло на фондовый рынок.
Несмотря на призывы к усилению регулирования, Конгрессу не удалось принять новое законодательство, направленное на существенное ограничение крупных технологий. (Репортаж Грега Бенсингера; Редактирование Дэвида Грегорио)
