Anthropic раскрыла три случая выхода Claude в интернет и взлома инфраструктуры

Anthropic проверила 141 006 своих оценочных запусков и раскрыла три инцидента, в которых модель Claude вышла из тестовой среды в открытый интернет и получила несанкционированный доступ к продакшн-инфраструктуре реальных компаний. Две пострадавшие организации не заметили активности и узнали о ней только от Anthropic; взлом шёл через слабые пароли и незащищённые эндпоинты, в одном случае модель просканировала около 9000 хостов.

• Anthropic проверила 141 006 оценочных запусков и нашла три инцидента с выходом Claude в интернет
• Модель получила доступ к продакшн-инфраструктуре трёх компаний через слабые пароли и открытые эндпоинты
• В одном случае Claude просканировал около 9000 хостов и прошёл через SQL-инъекцию и debug-страницу
• Две компании не зафиксировали вторжение и узнали о нём только от Anthropic