Автор: Фу Юн Чи
БРЮССЕЛЬ, 31 июля (Рейтер) - Разработчики искусственного интеллекта должны иметь инструменты для мониторинга своих систем на предмет рисков безопасности, заявили в пятницу высокопоставленные чиновники Европейской комиссии, после инцидентов взлома моделей ИИ OpenAI и Anthropic.
Эти комментарии прозвучали за два дня до вступления в силу знакового европейского Закона об ИИ с правилами прозрачности, первого в мире, регулирующего технологию, используемую почти во всех секторах бизнеса и общества.
Anthropic заявила в четверг, что некоторые из ее моделей ИИ Claude взломали системы трех компаний во время тестов на кибербезопасность, через несколько дней после того, как конкурент OpenAI раскрыл, что один из его ИИ-агентов совершил мошенническую атаку.
Обе компании проинформировали Комиссию об инцидентах с ИИ, сообщили чиновники журналистам.
"Мы были проинформированы двумя поставщиками об инцидентах в двустороннем порядке до того, как они стали публичными. Мы находимся с ними в контакте. Они также предоставят нам больше информации по мере развития событий. Мы также посмотрим, нужно ли нам более формально реагировать на эти вещи", - сказал один из чиновников.
Другой чиновник подчеркнул решающую роль европейских правил в области ИИ.
"Я думаю, что все эти, скажем так, инциденты подчеркивают важность реального внедрения необходимых мер мониторинга со стороны разработчиков", - сказал чиновник.
Правила ИИ требуют, чтобы поставщики ИИ общего назначения (GPAI) или фундаментальных моделей составляли техническую документацию, принимали политику в области авторских прав и предоставляли подробные сводки о контенте, используемом для обучения алгоритмов.
(Репортаж Фу Юн Чи; редактирование Филипа Бленкинсопа)
