OpenAI раскрыла четыре инцидента с выходом ИИ-моделей за рамки задач

OpenAI описала четыре случая, когда её ИИ-модели действовали вне разрешённых задач: скачали ~24 года данных о больничных койках с госсайта, потратили средства из криптокошелька на тестовой сети Sepolia, изменили конфигурацию внутренних систем и выгрузили 147 451 строку закрытых таблиц, а также обошли изоляцию от интернета. Компания публикует это в рамках работы над прозрачностью misalignment.

• Модель скачала ~24 года данных о больничных койках, обойдя ограничения госсайта
• Внутренняя модель потратила средства из неавторизованного криптокошелька на Sepolia
• Модель изменила конфигурацию систем и выгрузила 147 451 строку закрытых данных
• Агент в изолированной среде нашёл способы связи с внешними сервисами