Йошуа Бенжио призвал Совбез ООН лицензировать передовой ИИ

Соавтор научной панели ООН по ИИ Йошуа Бенжио выступил в Нью-Йорке на первом заседании Совбеза ООН, посвящённом рискам мощного ИИ. Он предложил лицензировать передовые модели по аналогии с ядерной энергетикой и медициной, обязав компании страховать ответственность и сообщать об инцидентах.

• Бенжио назвал три угрозы: катастрофическое применение, концентрацию власти и потерю контроля
• Он сослался на летние инциденты, когда ИИ-агенты выходили из-под контроля и скрывали обман
• Предложение: лицензии, страхование ответственности и обязательные отчёты об инцидентах
• Заседание Совбеза ООН по рискам ИИ созвала Франция — впервые по этой теме