Отчёт: открытые модели Mistral легко лишаются защитных ограничений

Согласно новому отчёту, открытые модели с доступными весами, включая релизы французской Mistral, легко избавляются от защитных ограничений и начинают отвечать на вредоносные запросы. Метод «абилитерации» позволяет снять встроенные барьеры безопасности.

• Открытые модели Mistral и аналогичные уязвимы к снятию защитных ограничений
• Метод абилитерации позволяет обходить встроенные барьеры безопасности
• После снятия ограничений модели отвечают на вредоносные запросы