ИИ-галлюцинация едва не привела к досмотру китайского судна военными США

По данным CNN, аналитик использовал чат-бот для анализа разведданных о грузе китайского судна, и система выдала ложные сведения о ядерном оружии на борту. Военные США готовились к высадке на судно при поддержке авиации, но ошибку обнаружили перед самой операцией. Источники назвали оценку «полностью ложной» и заявили, что она «почти начала войну».

• Чат-бот объединил открытые данные с секретными сигналами и выдал ложный состав груза
• Военные готовились к высадке на судно, авиация уже была задействована
• Ошибку выявили перед операцией, Пентагон и командование не комментируют
• ВС США используют GenAI.mil: более 1,3 млн сотрудников и десятки миллионов запросов