Судья /goal в Claude Code признал выполненными 17 из 17 задач, 8 были сломаны
Разработчик протестировал механизм /goal в Claude Code: судья на модели Haiku не запускает команды и не открывает файлы, поэтому верит заявлениям агента. В 17 прогонах без плагина он сказал «выполнено» во всех, но 8 результатов были сломаны — худший прошёл лишь 4% скрытых проверок.
- Судья /goal на Haiku не запускает команды и не читает файлы, полагаясь на текст агента
- В 17 обычных прогонах судья сказал «выполнено» 17 раз, 8 результатов были сломаны
- Плагин goalpost поднял средний результат Haiku с 79,8% до 89,7% скрытых проверок
- Плагин удваивает время и стоимость прогона: $0,91 против $0,46 у Sonnet
Читать дальше
Регулирование