Anthropic предложила закон о паузе ИИ-моделей при угрозе гибели 50 человек

Politico получила конфиденциальный черновик законопроекта Anthropic о безопасности ИИ. Он позволяет блокировать выпуск модели только при «предвидимом, неизбежном риске» ущерба свыше $1 млрд или гибели либо тяжёлых травм более 50 человек из-за кибератаки, потери контроля над моделью или биооружия. Решение о приостановке принимает только федеральный судья в Вашингтоне.

• Порог: ущерб свыше $1 млрд или гибель более 50 человек
• Риск должен касаться кибератаки, потери контроля или биооружия
• Независимые оценщики сообщают в Минторг США в течение 72 часов
• Оценщиков разрешено финансировать самим ИИ-лабораториям