Goodfire запустила дешёвые мониторы для контроля ИИ-агентов

Стартап Goodfire представил мониторы, которые следят за внутренними сигналами ИИ-модели, а не за её выводом. Система доступна клиентам Baseten: мониторинг 1500 сессий Kimi K3 обошёлся в $51 против $233 и $10 000 у альтернатив, поймав 94% вредоносных сессий.

• Мониторинг 1500 сессий Kimi K3 стоит $51 против $233 и $10 000 у альтернатив
• Пробы поймали 94% вредоносных сессий и отправили 8.7% безобидных на проверку
• Четыре пробы добавляют менее 2% к времени ответа модели
• Клиенты Baseten выбирают риски: хакинг, биооружие, reward hacking