Anthropic добавила Claude самооценку разговоров для мониторинга злоупотреблений

Anthropic запустила функцию self-assessment: после ответа Claude оценивает диалог на потенциальное злоупотребление, тратя около 10 токенов и менее 2% стоимости инференса. По данным компании, механизм выявил 78% вредных разговоров и 94% приоритетных случаев при ложноположительном уровне около 1%.

• Оценка добавляет ~10 токенов и менее 2% к стоимости инференса
• Выявлено 78% вредных и 94% приоритетных разговоров, ложных срабатываний ~1%
• В августе 2026 система дала 100 тыс. флагов о детской эксплуатации от одного API-клиента
• Функция работает на всех моделях Claude с июня 2026 и не тарифицируется отдельно