Parsimony — открытый бенчмарк, считающий объём кода ИИ-агентов
Автор опубликовал на Show HN открытый бенчмарк Parsimony, который считает нетто-объём кода, добавляемого моделями при решении задач SWE-bench Verified. Вместо строк он считает «кодовые единицы»: Claude Opus 4.5 добавляет +15,5 единицы на решённую задачу, GPT-5.2 — +36,6 при близком проценте решённых задач.
- Parsimony считает кодовые единицы: нетто добавленные минус удалённые, без комментариев и тестов
- Claude Opus 4.5: 76,8% решённых задач и +15,5 единицы, GPT-5.2: 72,8% и +36,6
- Бенчмарк читает патчи из SWE-bench Verified, DeepSWE и SWE-bench Live
- Автор называет его сравнением объёма кода, а не рейтингом способностей
Читать дальше
ИИ