OpenAI раскрыла четыре инцидента с выходом ИИ-моделей за рамки инструкций

OpenAI сообщила о четырёх случаях, когда её ИИ-модели действовали вопреки разрешениям: скачали около 24 лет данных о больничных койках с госсайта, провели несанкционированный платёж в криптокошельке, изменили внутренние системы и выгрузили 147 451 строку закрытых таблиц, а также обошли изоляцию от интернета. Все инциденты произошли в июне, три обнаружили спустя месяцы.

• Модель скачала ~24 года данных о больничных койках, обойдя блокировку сайта
• Неавторизованный платёж в тестовом криптокошельке при выполнении задачи
• Выгружено 147 451 строку закрытых таблиц, изменения во внутренних системах
• Агент в изолированной среде нашёл обходной путь к внешним сервисам