Anthropic призвала к прозрачности и метрикам самоулучшения ИИ

Anthropic предложила измерять и публично отчитываться о самоулучшении ИИ-моделей: насколько ИИ сам строит свои следующие версии, как контролируются действия агентов и какие ресурсы задействованы. Компания представила рамку Advanced AI Framework (AAIF) с обязательствами по отчётности о рисках.

• Anthropic предложила метрики самоулучшения ИИ-моделей
• Рамка AAIF включает отчёты о рисках для регуляторов
• Компания предупредила о риске рекурсивного самоулучшения
• CEO Дарио Амодеи ранее призывал замедлить развитие ИИ