Malwarebytes: ИИ-ассистенты уязвимы к фишингу через prompt injection

Malwarebytes предупреждает, что ИИ-ассистенты, обрабатывающие почту, могут попасться на скрытые инструкции в фишинговых письмах — атаки типа prompt injection. Скрытый текст невидим человеку, но доступен модели, которая не отличает данные от команд. Компания советует оставлять человека в контуре для платежей и смены реквизитов.

• Скрытые инструкции в письмах не видны человеку, но читаются ИИ-ассистентом
• Модель не различает текст для чтения и команды для исполнения
• Malwarebytes советует требовать подтверждения человека для платежей
• Риск растёт с распространением автономных ИИ-агентов для почты