Aikido выпустила Altar-1 — открытую ИИ-модель для кибербезопасности на 328 ГБ
Aikido Security представила Altar-1 — первую открытую модель для безопасности, сжатую из GLM-5.3 (753B параметров MoE) до 328 ГБ. Квантизация AWQ INT4 и прунинг экспертов REAP (168 из 256 на слой) сократили размер на 78,2%; модель работает на одном узле из 4x Nvidia H200 с vLLM, включая изолированные сети.
- Сжатие с 1506,7 ГБ до 328 ГБ — на 78,2% меньше BF16-версии
- REAP оставил 168 из 256 экспертов на слой, 8 активных на токен
- Полнота по CVE упала с 65,6% до 60,4% — сохранено 92% покрытия
- Требуется узел 4x H200; на 4x H100 80 ГБ (320 ГБ) не помещается
Читать дальше
ИИ