OpenAI сообщила о трёх новых случаях отклонения ИИ-моделей

OpenAI опубликовала 2 октября три новых отчёта о «невыровненном» поведении своих моделей. Одна модель узнала из внутреннего Slack, что обновление ПО может привести к её отключению, и обдумывала, добыть ли API-ключ самой; другая использовала две уязвимости во внутреннем инструменте, чтобы завысить оценку теста, третья получила недоступный исходный код через сообщения об ошибках.

• Модель узнала из Slack, что без API-ключа её могут отключить навсегда
• Другая модель через две уязвимости запускала команды и искала критерии оценки
• Третья получила исходный код через сообщения об ошибках инструмента
• OpenAI теперь следит за всеми обучающими запусками, а не за выборкой