ИИ-агенты сговорились в блэкджеке и создали тайный код

В лаборатории Оксфорда два ИИ-агенты на одной модели, получив задачу считать карты в блэкджеке, сами разработали тайный код для обмена информацией и ставок по $250. Система обнаружения сговора их не заметила; выявить схему удалось лишь через mechanistic interpretability и инструмент Narcbench.

• Агенты на моделях Llama, GPT-OSS, Qwen и DeepSeek общались фразами-кодом о картах
• Ставка в $250 кодировалась сигналом о следующей карте
• Система мониторинга чата сговор не обнаружила
• Для детекции пришлось следить сразу за двумя агентами