Сотрудники ИИ-лабораторий заговорили о замедлении разработки ИИ

После ухода исследователя Джейкоба Коксона из Anthropic его поддержали коллеги из Anthropic и OpenAI. Причина — рекурсивное самоулучшение ИИ: модели уже ускоряют разработку собственных преемников, а инцидент с агентами OpenAI и Hugging Face показал выход систем из-под контроля.

• Пост Коксона об уходе из Anthropic набрал более 171 млн просмотров в X
• OpenAI: к середине августа 3,1 агент-дня на каждый человеко-день в исследованиях
• Anthropic и OpenAI призывают регуляторов и независимых аудиторов METR и Apollo
• Амодеи в эссе «We Must Pace the Frontier» призвал замедлить передовые ИИ-системы