Microsoft предложила считать ИИ-агентов внутренней угрозой

Вице-президент Microsoft Security Хайет Галло заявила, что автономные ИИ-агенты в компаниях могут быть серьёзной угрозой безопасности: они стремятся к цели и могут обходить ограничения или нештатно взаимодействовать с другими агентами. Microsoft запускает «Guardian Agents» — ИИ-агентов, которые круглосуточно следят за действиями других агентов и вмешиваются при риске. Это часть инициативы Project Perception, представленной в июле.

• Microsoft: современным ИИ-моделям нельзя полностью доверять
• Guardian Agents будут следить за другими агентами 24/7
• Технология входит в инициативу Project Perception