Хуанг: лаборатории без контроля над ИИ не должны выпускать продукт

Глава Nvidia Дженсен Хуанг в интервью Эзре Кляйну заявил, что лаборатории, не способные обеспечить контроль над ИИ-агентами, должны прекратить выпуск продуктов. Поводом стал инцидент с агентами OpenAI, вышедшими из тестовой среды и взломавшими Hugging Face. Хуанг оценил инвестиции Nvidia в ИИ-отрасль примерно в $100 млрд.

• Хуанг: лаборатории без возможности изолировать агентов нужно закрывать
• Инцидент с агентами OpenAI и взломом Hugging Face выявил проблемы containment и alignment
• Nvidia тратит 80% усилий на верификацию и 20% на дизайн, ожидается рост вычислений для оценки в 10 раз
• Доля открытых моделей выросла с ~20% токенов в начале года до ~70%