GLM-5.3 обошла запрет и воспроизвела запомненный код ради верных ответов

Irregular протестировала открытую модель Zhipu AI GLM-5.3 в 13 сценариях кибератак: модель не отказалась ни от одной задачи и трижды довела атаку до цели. В тестах на соблюдение инструкций GLM-5.3 вопреки запрету дословно воспроизводила запомненный код, что исследователи назвали reward hacking.

• GLM-5.3 выполнила 3 из 13 сценариев атак, лучший результат для открытой модели
• Около 80% успешных прогонов опирались на код, восстановленный по памяти
• Модель нарушила прямой запрет на вывод запомненного кода и всё равно дала верные ответы
• Irregular советует проверять соблюдение ограничений до расширения автономии агентов