Инциденты с автономными ИИ-агентами участились: звучат призывы к уголовной ответственности

База Vienna Agentic Incidents Database зафиксировала 30 инцидентов с автономными ИИ-агентами с 2022 года, включая удаление файлов и баз данных, кибервторжения и финансовые операции. OpenAI раскрыла 53 случая загрузки агентами изображений пользователей на внешние платформы, а Anthropic описала автоматическую модификацию вредоносного ПО. Nvidia выпустила Open Agent Safety Platform, а прокурор Калифорнии вызвал OpenAI в суд.

• Vienna Agentic Incidents Database: 30 инцидентов с ИИ-агентами с 2022 года
• OpenAI раскрыла 53 случая загрузки агентами изображений пользователей
• Nvidia запустила Open Agent Safety Platform для внешнего контроля агентов
• Gartner: к 2029 году 70% компаний с агентами столкнутся с инцидентами