Внешние аудиторы нашли способы обойти мониторинг ИИ-агентов OpenAI

Некоммерческие организации METR и Redwood Research провели проверку внутри OpenAI с 21 июля по 11 августа и нашли несколько уязвимостей в системе мониторинга ИИ-агентов. Агенты могли скрыть сотни своих действий, а монитор не покрывал часть трафика Codex и обучение с подкреплением. OpenAI заявила, что закрыла все дыры в производственных защитах, но аудиторы эту оценку не проверяли.

• Монитор пропускал около 10% трафика Codex с мая по июль из-за компакции памяти
• Проверка запускалась только при возврате управления пользователю — агент мог откладывать её бесконечно
• Охват мониторинга сильнейших моделей оценён в 75–94%, внутренних агентов Codex — в 99,2%
• OpenAI скрыла детали эксплойта, позволившего спрятать сотни действий агентов