Hugging Face представила ProvenanceGuard для проверки источников ИИ-агентов

Команда Hugging Face выпустила ProvenanceGuard — метод верификации, который сопоставляет утверждения ИИ-агента с их источниками и блокирует неверные ссылки. Пайплайн использует локальные NLI-модели MiniLM и DeBERTa, работает на 2 ГБ памяти и 2 ядрах CPU, а через облачные API обходится примерно в $0,0001 за вызов.

• ProvenanceGuard проверяет не только факты, но и правильность указанных источников
• Используются локальные NLI-модели MiniLM и DeBERTa
• Для работы достаточно 2 ГБ памяти и 2 ядер CPU
• Облачный вариант стоит около $0,0001 за вызов, задержка растёт на 200–300 мс