MLPerf Inference v6.1: новые тесты RAG и агентов на десктопе

MLCommons выпустила MLPerf Inference v6.1 с двумя новыми тестами: End-to-End RAG для полного пайплайна поиска и Edge Agentic для 1007 ходов кодинг-агента на десктопе. 30 организаций подали 120 систем и 486 результатов; DeepSeek-R1 ускорилась в 5,7 раза за год.

• 30 организаций подали 120 систем и 486 результатов в MLPerf Inference v6.1
• DeepSeek-R1 стала в 5,7 раза быстрее за год, VLM — в 2,99 раза за полгода
• RAG-тест использует 107 484 пассажа и 824 задачи FRAMES с точностью 97%
• DGX Spark прошла 1007 ходов агента за 64 минуты на 20,1 токена/с