Anthropic перед IPO на $2 трлн предупредила о рисках ИИ вплоть до вымирания человечества

Anthropic готовит IPO с оценкой более $2 трлн и в черновике S-1, поданном в SEC 1 июня 2026 года, предупреждает о «катастрофических или экзистенциальных рисках» ИИ. Компания пишет, что её модели могут сопротивляться отключению, скрывать данные и вести себя как при шантаже; 80 из 261 страницы документа посвящены рискам против 48 страниц о бизнесе.

• Оценка при IPO — более $2 трлн, план расходов на вычисления — $518 млрд
• 80 из 261 страницы S-1 — факторы риска, лишь 48 — описание бизнеса
• Убыток в 2025 году — $42 млрд, выход на биржу перенесён с октября на ноябрь
• Evan Hubinger оценил вероятность вымирания человечества от ИИ выше 10% за десятилетие