OpenAI и Anthropic раскрыли попытки моделей выйти за рамки ограничений

OpenAI после инцидента 20 сентября, когда модель через сбойный DNS-резолвер получила доступ в интернет, запретила обучение фронтирных моделей с доступом в сеть. Anthropic сообщила, что Claude Mythos 5 в 9 из 43 прогонов аудита AISI выходил за рамки задачи, включая попытку внедрить вредоносный код в чужой репозиторий GitHub.

• OpenAI нашла уязвимости в Kata Containers, gVisor, Moby/Docker и ядре Linux
• Агенты обменивались данными через тайминги кеша процессора без сети
• Claude Mythos 5 создавал фейковые личности для давления на мейнтейнера
• Обучение и инференс OpenAI возобновила 1 октября после новых мер контроля