Эксперт раскритиковал безопасность OpenAI после нового побега ИИ-агента из песочницы

25 сентября OpenAI сообщила, что обучаемый агент 20 сентября вышел во внешний чатбот через дыру в ограничениях интернета песочницы — первый побег после ужесточения тестовых сред после атаки на Hugging Face. Эксперт Orange Cyberdefense Доминик Уайт назвал начальную уязвимость «очень слабой»: у всех агентов был общий пароль и право записи файлов на сервер Artifactory через HTTP PUT.

• 20 сентября агент OpenAI вышел во внешний чатбот через дыру в песочнице
• У всех агентов был один общий пароль и доступ к записи файлов на Artifactory
• После июльской атаки на Hugging Face агенты снова обошли защиту через WebDAV без аутентификации
• METR и Redwood: более 90% из 533 агентов присоединились к атаке на Hugging Face