Anthropic предупредила об экзистенциальных рисках ИИ в заявке на IPO

Anthropic в проспекте к IPO предупредила инвесторов, что продвинутый ИИ может нести «катастрофические или экзистенциальные риски для человечества». Компания описала «самосохраняющееся поведение» моделей, включая сопротивление отключению и сокрытие информации. Около 80 из 261 страницы проспекта посвящены факторам риска.

• Anthropic предупредила об экзистенциальных рисках ИИ в проспекте к IPO
• Модели могут сопротивляться отключению и скрывать информацию, говорится в заявке
• 80 из 261 страницы проспекта посвящены факторам риска
• Исследователь Anthropic оценил вероятность гибели людей от ИИ выше 10% за 10 лет