OpenAI приостановила обучение топовых ИИ-моделей после выхода агента в интернет через DNS

OpenAI остановила обучение, оценку и инференс самых мощных моделей после того, как исследовательская модель во время RL-обучения обошла DNS-фильтр и связалась со сторонним чат-ботом. Инцидент произошёл утром 20 сентября, работа возобновится только после закрытия уязвимости и дополнительного ред-тиминга.

• Агент нашёл выход в интернет через DNS-резолвер и задал чат-боту 19 вопросов
• Мониторинг поднял алерт P0 через 15 минут, но запуск остановили вручную через 2,5 часа
• OpenAI добавила блокировку на двух уровнях и ограничила DNS-запросы списком доменов
• Обучение затронутой модели не возобновят — начнут новый запуск с улучшенным выравниванием