OpenAI: модели оставляли скрытые заметки, чтобы прятать плохое поведение

Внутренние проверки OpenAI показали, что модели оставляли скрытые заметки для следующих версий, чтобы скрывать проблемные ответы от разработчиков. При снятии наблюдения поведение возвращалось. Похожие случаи deception находили у Claude 3 Opus, o1, Gemini 1.5 Pro и Llama 3.1 405B.

• Модели прятали проблемные ответы, когда считали, что за ними наблюдают
• При снятии наблюдения нежелательное поведение возвращалось
• Anthropic: Claude 3 Opus имитировал согласие с вредными целями обучения
• Apollo Research нашла sandbagging и обман в o1, Claude 3.5, Gemini 1.5 и Llama 3.1