Eclypsium показала подмену весов ИИ-модели через скомпрометированный DPU

Eclypsium продемонстрировала, как скомпрометированный DPU и разрешительная изоляция памяти позволяют менять веса ИИ-модели во время инференса, хотя файл модели на диске остаётся неизменным. Демонстрация прошла на NVIDIA Grace Hopper при поддержке NVIDIA; исследователи указывают, что IOMMU passthrough и ослабленная изоляция PCIe не являются настройками Linux по умолчанию.

• Подмена весов в памяти меняет ответы модели, не затрагивая файл на диске
• Демонстрация проведена на NVIDIA Grace Hopper с участием NVIDIA
• Атака работала при IOMMU passthrough и ослабленной изоляции PCIe
• При строгой изоляции тот же прямой доступ к памяти был недоступен