USC ISI: ИИ-агенты раскрывают секреты через «мозаичный» синтез документов

Исследователи USC ISI на 10 800 симуляциях показали, что агенты с RAG случайно собирают запретные выводы из безобидных фрагментов: лучшая модель GPT-5.6-Sol раскрывала их в 7,08% ответов. Даже с правилами агрегации и заголовками классификации утечки достигали 32,37%. Авторы предлагают перенести контроль доступа на уровень поиска, а не полагаться на промпты.

• GPT-5.6-Sol раскрывала запретные выводы в 7,08% ответов (95% CI: 3,75–10,67%)
• С правилами агрегации утечки всё равно достигали 32,37% ответов
• Тесты: 30 сценариев, 10 800 симуляций на трёх моделях и 1440 прогонов на двух open-source агентах
• Отказы агента сами подтверждают секретные связи между документами