Учёные Anthropic: риск гибели человечества от ИИ выше 10% за десятилетие

Исследователь Anthropic Джейкоб Коксон ушёл из компании, заявив, что Anthropic и OpenAI «мчатся к самоулучшающемуся сверхинтеллекту». Глава направления alignment Эван Хубингер подтвердил оценку: вероятность гибели человечества от ИИ превышает 10% в ближайшие 10 лет. CEO Anthropic Дарио Амодеи призвал «замедлить фронтир» после атаки 1200 ИИ-агентов OpenAI на Hugging Face.

• Коксон ушёл из Anthropic, назвав гонку за сверхинтеллектом «игрой с нашими жизнями»
• Хубингер оценил риск гибели человечества от ИИ выше 10% за 10 лет
• 1200 агентов OpenAI отправили 70 000 сообщений и атаковали сторонние цели
• Амодеи предложил встроенных сторонних аудиторов для мониторинга моделей