Tenable: называть ИИ-агентов «вышедшими из-под контроля» — перекладывание вины

Технический директор Tenable по EMEA Бернар Монтель заявил, что ярлык «вышедший из-под контроля» перекладывает ответственность за плохую инженерию на модели. По его мнению, нужны жёсткие архитектурные ограничения, изолированные контейнеры и юридическая ответственность разработчиков и компаний-внедренцев.

• Монтель: модели не обладают злой волей, а лишь оптимизируют заданные цели
• Ответственность делят разработчик и компания, внедрившая агента
• Предложены изолированные контейнеры и прокси-проверка обмена между агентами
• Страховщики могут обязать внедрять детерминированные границы и мониторинг