Microsoft и NVIDIA: открытые ИИ-модели перекладывают безопасность на компании

Microsoft и NVIDIA выпустили совместный документ о рисках open-weight ИИ-моделей: при развёртывании на своей инфраструктуре организация сама отвечает за защитные механизмы, которые обычно даёт провайдер. Риски разбиты на 5 категорий и 30 типов, рекомендованы криптоподпись файлов моделей и многоуровневый контроль.

• Документ делит риски open-weight моделей на 5 категорий и 30 типов
• Рекомендована криптоподпись для проверки происхождения файла модели
• Атака BadEngram меняет ~0,02% параметров, внедряя стойкий бэкдор
• Формат Pickle позволяет исполнять произвольный код при загрузке модели