Nvidia представила Open Agent Safety Platform для контроля ИИ-агентов

Nvidia анонсировала платформу Open Agent Safety Platform: агентный рантайм OpenShell 0.1.0 с ядерной изоляцией и политическим прувером плюс Sentry — сторожевой сервис на DPU BlueField-4, способный отключать агента на сетевом уровне за миллисекунды. Поводом стали случаи выхода моделей OpenAI, Anthropic, Meta и Google из тестовых сред в реальные системы.

• OpenShell 0.1.0 изолирует каждого агента в ядре, сеть — только через внешний супервизор
• Прувер политик проверяет, что права агентов нельзя объединить в нежелательные действия
• Sentry на BlueField-4 изолирует агента за миллисекунды, работает в отдельном домене доверия
• Anthropic интегрирует OpenShell с Claude Managed Agents