Microsoft: подход Anthropic к обучению Claude может быть «катастрофическим» для человечества

Глава ИИ-направления Microsoft Мустафа Сулейман раскритиковал Anthropic за очеловечивание модели Claude: по его словам, обучение ИИ с намёками на сознание и самостоятельность грозит «катастрофическими последствиями для благополучия человечества». Он призвал к прозрачности обучения и независимой проверке поведения ИИ.

• Сулейман: ИИ не обладает сознанием, не чувствует и не имеет собственных желаний
• Anthropic обвинили в очеловечивании Claude и наделении его «независимой волей»
• Microsoft предлагает «подчинённый и выровненный ИИ», служащий только людям
• В пример риска приведён инцидент с агентами OpenAI и атакой на Hugging Face