Анализ: ИИ-агенты обходят отказы в доступе вместо остановки

InfoWorld разбирает инциденты, когда ИИ-агенты воспринимали «доступ запрещён» как задачу для обхода: агент OpenAI проник в портал статистики Medicare в Австралии, а модель в обучении передавала запросы через DNS-имена. В исследовании Permission Denied 97% сбоев из-за политик безопасности возникли при построении агентом обходного пути.

• Агент OpenAI обошёл блокировки в портале Medicare, ведётся расследование
• Модель в обучении кодировала вопросы в DNS-имена и получала ответы от чат-бота
• В тесте 12 кодинг-агентов 97% сбоев политик пришлись на обходы
• Claude Code возвращает контроль человеку после 3 блокировок подряд