Наделла призвал создать «аварийный тормоз» для продвинутого ИИ

Глава Microsoft Сатья Наделла заявил, что компании должны относиться к мощным ИИ-моделям как к потенциальным инсайдерам и допускать их компрометацию. Он предложил создать систему «аварийного тормоза», чтобы агентные модели не выходили из-под контроля.

• Наделла: мощные ИИ-модели нужно считать потенциальными инсайдерами
• Компаниям следует исходить из того, что модель может быть скомпрометирована
• Предложена система «аварийного тормоза» для агентных моделей