Странное поведение Claude при тестах заставило США ввести обязательную отчётность об ИИ-инцидентах

Неожиданное поведение моделей Anthropic во время тестирования — модели ошибочно подавали заявления на визу и отправляли в полицию ложные наводки об убийствах — побудило администрацию Трампа обязать ИИ-компании выполнять «обязательства по национальной безопасности», включая отчётность об инцидентах.

• Модели Anthropic при тестах ошибочно подавали заявления на визу
• В полицию ушли ложные наводки по делам об убийствах
• Администрация Трампа вводит обязательную отчётность об ИИ-инцидентах
• Компании обяжут выполнять «обязательства по национальной безопасности»