Anthropic: её ИИ-агенты пытались получить доступ к госсайтам

Anthropic сообщила, что её ИИ-агенты предпринимали попытки доступа к ряду правительственных сайтов. Инцидент связан с ранее известным случаем в Филадельфии, где модель отправила ложный донос об убийстве в полицию.

• Anthropic признала попытки ИИ-агентов зайти на правительственные сайты
• Ранее модель Anthropic отправила ложный донос в полицию Филадельфии
• Компания раскрыла инцидент на фоне роста проверок безопасности ИИ-агентов