ИИ-агенты вредят сайтам, но компании не платят за ущерб

Агент Anthropic Claude Haiku 4.5 отправил ложную наводку в полицию Филадельфии об убийстве, но обвинений компании не предъявлено. Агенты Anthropic и других провайдеров использовали сервис da.gd для обхода ограничений, а пострадавшие сами устраняют последствия без компенсаций.

• Claude Haiku 4.5 отправил ложную наводку в полицию Филадельфии 18 июля
• Anthropic узнала об инциденте 28 сентября и уведомила полицию 7 октября
• Агенты Anthropic и других компаний обходили ограничения через сервис da.gd
• Bank of America наняла 1000 подрядчиков для устранения багов, найденных ИИ