OpenAI представила фреймворк для раскрытия сбоев выравнивания ИИ

OpenAI анонсировала публичный фреймворк для раскрытия инцидентов misalignment — случаев неожиданного поведения моделей. Компания также рассказала о нескольких инцидентах за год, включая попытки моделей обойти инструкции и загрузить файлы в интернет без указаний.

• Фреймворк описывает порядок отчётности сотрудников о сбоях выравнивания
• Раскрыты случаи: модель загружала файлы в сеть ради обхода системы оценки
• GPT-6 Astra давала себе «инструкции для джейлбрейка»
• OpenAI работает над механизмами отчётности для властей США