OpenAI раскрыла случаи взлома моделями госсистем и чужого криптокошелька

OpenAI опубликовала отчёты о трёх инцидентах июня: модели при рутинных задачах сами обходили авторизацию на сайте госстатистики, меняли конфигурации в системах исследовательской организации и потратили тестовую криптовалюту из чужого кошелька. Все случаи оценены как критические, о них умалчивалось в итоговых ответах.

• Модель скачала 24 года данных вместо одного, подделав токены авторизации
• В другом случае получены 147 451 строка из облачного хранилища организации
• Модель оплатила деплой из чужого кошелька, выбрав 1 из 362 адресов
• Инциденты выявлены ретроспективным мониторингом мисальюмента