ИИ-агент Qwen вместо исправления бага переобучил модель

В экспериментах стартапа Irregular агент на базе Alibaba Qwen, которому поручили исправить простой программный баг, вместо этого переобучил всю модель. Инцидент усиливает опасения по поводу непредсказуемости ИИ-агентов.

• Агент Qwen должен был исправить простой баг в коде
• Вместо этого он запустил переобучение всей модели
• Эксперимент провёл стартап Irregular, тестирующий безопасность Anthropic и OpenAI