(Bloomberg) -- Компании, использующие генеративные инструменты искусственного интеллекта, такие как ChatGPT, могут подвергать риску конфиденциальную информацию о клиентах и коммерческие секреты, говорится в отчете Team8, израильской венчурной фирмы.
Широкое внедрение новых чат-ботов с искусственным интеллектом и инструментов для написания текстов может сделать компании уязвимыми к утечкам данных и судебным искам, говорится в отчете, который был предоставлен Bloomberg News перед его публикацией. Существует опасение, что чат-боты могут быть использованы хакерами для доступа к конфиденциальной корпоративной информации или совершения действий против компании. Есть также опасения, что конфиденциальная информация, передаваемая чат-ботам сейчас, может быть использована компаниями с искусственным интеллектом в будущем.
Крупнейшие технологические компании, включая Microsoft Corp. и Alphabet Inc., стремятся добавить генеративные возможности искусственного интеллекта для улучшения чат-ботов и поисковых систем, обучая свои модели на данных, собранных из Интернета, чтобы предоставить пользователям универсальный ответ на их запросы. Если этим инструментам будут переданы конфиденциальные или личные данные, будет очень трудно стереть эту информацию, говорится в отчете.
“Корпоративное использование GenAI может привести к доступу и обработке конфиденциальной информации, интеллектуальной собственности, исходного кода, коммерческой тайны и других данных посредством прямого пользовательского ввода или API, включая клиентскую или личную информацию и конфиденциальную информацию”, - говорится в отчете, классифицируя риск как “высокий”. В нем риски были охарактеризованы как “управляемые”, если будут приняты надлежащие меры предосторожности.
В отчете Team8 подчеркивается, что запросы чат-ботов не вводятся в широкоязыковые модели для обучения ИИ, вопреки недавним сообщениям о том, что такие подсказки потенциально могут быть замечены другими.
“На момент написания этой статьи большие языковые модели не могут обновлять себя в режиме реального времени и, следовательно, не могут возвращать входные данные к ответу другого, эффективно развенчивая эту проблему. Однако это не обязательно относится к обучению будущих версий этих моделей”, - говорится в нем.
В документе отмечены три другие проблемы “высокого риска” при интеграции генеративных инструментов искусственного интеллекта и подчеркнута повышенная угроза того, что информация все чаще передается через сторонние приложения. Microsoft внедрила некоторые функции чат-бота с искусственным интеллектом в свою поисковую систему Bing и инструменты Microsoft 365.
“На стороне пользователя, например, сторонние приложения, использующие GenAI API, в случае взлома потенциально могут предоставить доступ к электронной почте и веб-браузеру и позволить злоумышленнику предпринимать действия от имени пользователя”, - говорится в сообщении.
Существует “средний риск” того, что использование генеративного искусственного интеллекта может усилить дискриминацию, нанести ущерб репутации компании или подвергнуть ее судебному иску по вопросам авторского права, говорится в нем.
Энн Джонсон, корпоративный вице-президент Microsoft, принимала участие в подготовке отчета. Microsoft инвестировала миллиарды в Open AI, разработчика ChatGPT.
“Microsoft поощряет прозрачное обсуждение развивающихся киберрисков в сообществах безопасности и искусственного интеллекта”, - сказал представитель Microsoft.
Десятки руководителей служб информационной безопасности американских компаний также указаны в качестве авторов отчета. Отчет Team8 был также одобрен Майклом Роджерсом, бывшим главой Агентства национальной безопасности США и киберкомандования США.
©2023 Bloomberg L.P.
