Белый дом во вторник объявил о том, что ряд фирм, включая Nvidia (NVDA), IBM (IBM) и Salesforce (CRM), присоединяются к добровольным правилам администрации Байдена, направленным на ограничение рисков, связанных с искусственным интеллектом. Обязательства разбиты на три категории: обеспечение безопасности продуктов искусственного интеллекта до их представления общественности, обеспечение безопасности на первом месте и завоевание доверия общественности к технологии.
Adobe (ADBE), Cohere, Palantir (PLTR), Scale и Stability завершают список из восьми компаний, подписавших соглашение. Amazon (AMZN), Anthropic, Google (GOOG, GOOGL), Inflection, Meta (МЕТА), Microsoft (MSFT) и OpenAI добровольно присоединились к усилиям администрации.
"Эти обязательства представляют собой важный мост к действиям правительства и являются лишь одной частью комплексного подхода администрации Байдена-Харриса к реализации обещаний и управлению рисками, связанными с ИИ", - говорится в заявлении Белого дома. "Администрация разрабатывает Исполнительный приказ и будет продолжать проводить двухпартийное законодательство, чтобы помочь Америке лидировать в ответственном развитии искусственного интеллекта".
Согласно условиям соглашения, компании разрешат проводить внутреннее и внешнее тестирование безопасности своих систем искусственного интеллекта перед их выпуском, включая то, как их технологии влияют на общество, биозащищенность и кибербезопасность, а также обязуются делиться передовым опытом в области безопасности.
Фирмы также заявляют, что будут инвестировать в кибербезопасность и другие меры предосторожности для защиты от утечек и взломов своих неизданных весовых моделей. Они также позволят третьим лицам сообщать о потенциальных пробелах в безопасности в их собственных системах.
Что касается общественного доверия, компании позаботятся о том, чтобы пользователи могли понимать, когда контент генерируется искусственным интеллектом с помощью технологий, включая системы водяных знаков. В августе Google анонсировала собственную технологию создания водяных знаков под названием SynthID, которая встраивает маркеры непосредственно в изображения, созданные с помощью генератора преобразования текста в изображение Imagen.
Технологические фирмы также заявляют, что они изучат потенциальные социальные риски, связанные с искусственным интеллектом, и приложат усилия для решения самых разных проблем - от изменения климата до исследований рака.
Популярность индустрии искусственного интеллекта резко возросла благодаря OpenAI, которая выпустила своего генерирующего чат-бота ChatGPT на базе искусственного интеллекта в ноябре 2022 года. Microsoft, которая инвестирует миллиарды в OpenAI, выпустила собственного чат-бота Bing и браузер Edge в феврале. Родительский Google Alphabet также выпустил версию своего бота Bard и работает над экспериментальной версией своей поисковой системы, использующей генеративный искусственный интеллект.
Но рост технологий и темпы инноваций также вызвали опасения, что искусственный интеллект может быть использован для всего - от распространения дезинформации до лишения рабочих мест в различных отраслях.
Согласно опросу, проведенному исследовательским центром Pew Research Center, 52% опрошенных американцев заявили, что они больше обеспокоены, чем взволнованы использованием искусственного интеллекта в своей повседневной жизни.
Дэниел Хоули - технический редактор Yahoo Finance. Он освещает технологическую индустрию с 2011 года. Вы можете подписаться на него в Twitter @DanielHowley.
Читайте последние финансовые и деловые новости от Yahoo Finance
