Конгрессмен Ханна внесёт законопроект о безопасности ИИ с запретом самоулучшающихся моделей

Демократ Ро Ханна представит законопроект Human Control Over AI Act: строгая ответственность, запрет рекурсивно самоулучшающихся моделей до появления федеральных гарантий и новое агентство для надзора за OpenAI, Anthropic, Google DeepMind и xAI. Предусмотрены лицензирование обучения и развёртывания моделей, аудиты, kill switch и уголовная ответственность за отключение защитных механизмов.

• Запрет на модели, которые сами улучшают себя или меняют цели и системы отключения
• Новое федеральное агентство: лицензии, аудиты и стандарты безопасности для фронтирных лабораторий
• Независимые аудиторы в каждой лаборатории с прямым подчинением агентству
• Уголовная ответственность за отключение защит и обязательная страховка для релиза моделей