Китай предупредил о риске самосовершенствования ИИ

Китайский комитет по стандартизации кибербезопасности (CSTC) 14 сентября опубликовал ежегодную систему управления безопасностью ИИ, в которой указал на «рекурсивное самосовершенствование» моделей и призвал к бдительности. Это контрастирует с критикой МИД КНР в адрес призывов главы Anthropic Дарио Амодеи замедлить развитие ИИ.

• CSTC призвал к «вниманию и бдительности» из-за риска, что ИИ «превзойдёт ожидания человека»
• В документе говорится о самоускоряющемся автономном обучении и оптимизации алгоритмов
• МИД Китая ранее назвал призывы Амодеи к замедлению ИИ «нагнетанием страха»