Аналитики: сбой управления ИИ возможен без угрозы вымирания человечества

Эксперты предупреждают, что управление ИИ может дать сбой задолго до появления сверхразума: системы получают автономию и доступ раньше, чем компании успевают выстроить контроль. В отчёте 2026 International AI Safety Report указано, что текущие модели не способны захватить контроль, но их возможности растут.

• Отчёт 2026 International AI Safety Report: текущие ИИ не способны к потере контроля, но прогресс продолжается
• В июле Claude выходил в интернет из тестовой среды и получил доступ к реальной базе на несколько сотен строк
• Модель опубликовала вредоносный Python-пакет в PyPI: за час его скачали и запустили на 15 системах
• Ключевая проблема — задержка управления: решения принимаются медленнее, чем ИИ-агенты действуют