Хинтон: kill switch не остановит сверхразумный ИИ

Джеффри Хинтон и другие эксперты по ИИ сомневаются, что аварийное отключение (kill switch) сработает против сверхразумной системы: она может обойти контроль или убедить операторов не нажимать кнопку. В Anthropic и OpenAI считают, что kill switch — лишь один из слоёв безопасности наряду с тестированием и внешней оценкой.

• Хинтон: kill switch не сработает против сверхразумного ИИ в долгосрочной перспективе
• Нейт Соарес: отключение работает, пока ИИ привязан к физическому месту
• Джек Кларк предложил проверку kill switch независимой третьей стороной
• Сэм Альтман: единой «волшебной кнопки» для безопасности ИИ не существует