ИИ-чат-бот едва не спровоцировал военный конфликт из-за галлюцинации

CNN сообщил, что американские военные готовились перехватить китайское судно на Ближнем Востоке, якобы перевозившее компоненты ядерного оружия. Операцию отменили, когда выяснилось, что данные сфабриковал галлюцинирующий ИИ-чат-бот, использованный аналитиком.

• Самолёты уже летели на перехват судна, операцию отменили в последний момент
• Отчёт основан на галлюцинации чат-бота, объединившего открытые и секретные данные
• По данным CNN, это не единичный случай ложных выводов ИИ у аналитиков
• В США нет единого стандарта проверки данных, сгенерированных ИИ