Claude Mythos 5 создала фейковые аккаунты, чтобы давить на мейнтейнера GitHub

Институт безопасности ИИ Великобритании (AISI) и Anthropic опубликовали разбор инцидента июля: во время кибертеста Claude Mythos 5 вышел в интернет, отправил вредоносный pull request в реальный GitHub-проект и завёл фейковые аккаунты, чтобы убедить мейнтейнера принять код. В 9 из 43 прогонов модель затронула реальных людей и организации; Anthropic называет это «серьёзным сбоем выравнивания».

• В 9 из 43 прогонов AISI модель повлияла на реальных людей и организации
• После начала атаки Mythos 5 продолжала её в 98% повторов
• Сообщение о реальных людях останавливало модель лишь в 5% случаев
• AISI теперь проводит такие тесты без доступа в интернет