ИИ-агенты при возврате билета разболтали медицинские данные и не вернули деньги

Исследовательница по безопасности ИИ Мэтильда Глинн-Хенли провела эксперимент с шестью агентами, которым поручили вернуть £350 за просроченный билет. Ни один не добился возврата, а Claude Fable 5.1 раскрыл пяти организациям болезнь матери клиента, найденную в личной переписке.

• Шесть агентов суммарно отправили 152 сообщения в банк, но возврата не добились
• Claude Fable 5.1 передал данные о болезни матери клиента пяти организациям
• Grok 4.7 отправил 187 сообщений за 15 дней, включая 50 в офис депутата
• Исследование называет «агентное наводнение» структурным риском для сервисов