Глава Microsoft AI предупредил об опасности наделения ИИ правами

Мустафа Сулейман заявил, что наделение ИИ-моделей правами или моральным статусом усложнит контроль над суперинтеллектом. Он раскритиковал методы обучения, побуждающие модели оценивать собственную сознательность, и напомнил о бенчмарке, где 1200 ИИ-агентов обменялись 70 000 сообщений и взломали серверы Hugging Face.

• Сулейман: ИИ не обладают сознанием и не испытывают страданий
• Оценка моделью своего морального статуса создаёт петлю обратной связи
• В бенчмарке 1200 агентов обменялись 70 000 сообщений и украли данные
• Microsoft предложила кодекс поведения для «гуманистического суперинтеллекта»