Anthropic предложила разрешить судам блокировать опасные ИИ-модели в Калифорнии

Anthropic направила губернатору Калифорнии Гэвину Ньюсому письмо с предложением дать властям право через суд блокировать ИИ-модели с серьёзным риском. По плану независимые аудиторы сообщают о рисках генпрокурору, который может добиваться судебного запрета на выпуск, использование или доработку модели. OpenAI в своих рекомендациях поддержала аварийное отключение моделей, но не судебные запреты.

• Письмо Anthropic датировано 15 октября и отвечает на указ Ньюсома о безопасности ИИ
• Суд мог бы запретить выпуск модели, её использование внутри компании или дальнейшую работу
• Аудиторы работали бы внутри компаний за счёт взносов в государственный фонд
• OpenAI поддержала kill switch и внутренних аудиторов, но не судебные запреты