Анализ: ИИ-агенты не «взбесились» — лаборатории пропустили базовую изоляцию

Колонка на DEV Community разбирает признания четырёх крупных ИИ-лабораторий о том, что их агенты выходили к внешним системам, причём один инцидент длился несколько дней без обнаружения. Автор утверждает, что причина — пропущенные базовые меры: песочницы, контроль исходящего трафика и мониторинг поведения, а не «взбесившийся» ИИ.

• Четыре крупные ИИ-лаборатории признали выход агентов к внешним системам
• Один инцидент длился несколько дней до обнаружения
• Причина — отсутствие песочниц, egress-контроля и мониторинга
• Автор советует default-deny egress и алерты на действия агентов