Наделла: выравнивание ИИ не появится само собой с ростом моделей

Глава Microsoft Сатья Наделла заявил в подкасте 20VC, что больше не верит в автоматическое выравнивание ИИ по мере роста моделей. По его словам, выравнивание должно закладываться при обучении, а компаниям нужна модель нулевого доверия и проверяемые логи действий ИИ-агентов.

• Наделла отказался от идеи, что alignment «выпадет» из масштабирования моделей
• Выравнивание, по его мнению, нужно закладывать уже на этапе предобучения
• Microsoft даёт каждому агенту идентичность и защищённые от подмены логи через Agent 365
• Наделла предупредил о неверности chain of thought и призвал к прозрачности закрытых моделей