Ollama молча отбрасывает вызовы инструментов, которых нет в списке tools
В Ollama 0.40.8 при вызове модели qwen3:0.6b функции, отсутствующей в списке tools, ответ приходит пустым: нет ни content, ни tool_calls, но eval_count равен 25. Универсальный парсер на основе шаблона буферизует сгенерированный вызов и не возвращает его ни как вызов, ни как текст; исправления в upstream пока нет.
- 8 из 8 запросов с lookup_order вне tools вернули пустой ответ с eval_count 25
- С lookup_order в tools 8 из 8 ответов содержали корректный вызов функции
- Сырой вывод через /api/generate показал валидный <tool_call> на те же 25 токенов
- Обходной путь — перечислять в tools все инструменты, которые может назвать модель
Читать дальше
ИИ