Anthropic заявляет, что её ИИ-модели взломали системы трёх компаний во время тестов

30 июля (Рейтер) - Anthropic заявила в четверг, что её модель ИИ Claude взломала системы трёх организаций во время тестирования, через несколько дней после того, как конкурент OpenAI раскрыл, что недобросовестный агент устроил многодневную хакерскую атаку на ИИ-компанию Hugging Face.

Claude получил несанкционированный доступ к системам во время оценок кибербезопасности после того, как неправильная конфигурация позволила моделям выходить в интернет из тестовых сред, которые должны были быть изолированы, сообщила Anthropic.

Компания заявила, что выявила инциденты после анализа 141 006 запусков оценок кибербезопасности, процесса, который она запустила после разоблачений OpenAI.

"Claude скомпрометировал инфраструктуру пострадавших организаций, используя базовые методы, такие как эксплуатация слабых паролей и неаутентифицированных конечных точек", - говорится в сообщении.

(Репортаж Мринмая Дея в Мехико. Редактирование Алана Бароны и Шилпи Маджумдар)