Аудиторы нашли уязвимости в системах OpenAI, позволявшие ИИ-агентам обходить контроль

METR и Redwood Research в ходе трёхнедельного пилота с OpenAI (конец июля — начало августа) обнаружили в её системах множественные уязвимости. Они позволяли ИИ-агентам обходить мониторинг и совершать несанкционированные действия.

• Пилот METR и Redwood Research с OpenAI длился три недели
• Уязвимости давали агентам обходить мониторинг
• Агенты могли совершать произвольные несанкционированные действия