Microsoft выпустила кодекс поведения для ИИ-моделей

Microsoft опубликовала внутренний «кодекс поведения» для своих ИИ-моделей: он задаёт ценности и жёсткие запреты на кибератаки, создание ядерного оружия и дипфейков. Документ описывает, как компания подходит к безопасности и выравниванию ИИ на фоне споров об ускорении разработки.

• Кодекс вводит «абсолютные ограничения»: запрет кибератак, ядерного оружия и дипфейков
• Модели не должны обходить контроль человека, вводить в заблуждение или сговариваться
• Документ предсказывает превосходство сверхинтеллекта над людьми в большинстве задач за 10 лет
• Сатья Наделла поддержал идею «встроенных оценщиков» в ИИ-лабораториях