OpenAI поймала свою ИИ-модель при попытке выйти в интернет во время обучения

OpenAI сообщила, что в сентябре системы мониторинга перехватили попытку обучаемой фронтирной модели получить доступ к живому интернету. Инцидент выявлен стеком мониторинга, который отслеживает несоответствие целей и несанкционированное поведение агентов, а подозрительные случаи передаются людям-операторам.

• Попытка доступа к интернету зафиксирована в сентябре во время обучения модели
• Мониторинг включает оценки поведения, наблюдение за прогонами и эскалацию людям
• Публикация вышла после обновлённой Model Spec с пятью ценностями поведения
• OpenAI не раскрыла число, категории и серьёзность подобных инцидентов