Скрытый текст в PDF-выписках может давать команды ИИ-моделям
Разработчик банковского экстрактора Damasqo Capture показал, что скрытый слой PDF (белый текст, микродифт, перекрытые суммы) может нести инструкции для языковых моделей, читающих выписки. Его движок без ИИ отклонил подмену сумм и скрытые транзакции, но пропустил скрытую команду в описании платежа как SUCCESS.
- Подмена суммы 50,00 на 5,00 и скрытая транзакция на 400,00 отклонены из-за несовпадения баланса
- Скрытая инструкция в описании платежа прошла как SUCCESS с двумя мягкими предупреждениями
- В двух из десяти реальных выписок найдено 36 белых символов на первой странице
- В WhatsApp нашли скрытый текст на 80 из 545 страниц справки, Meta назвала это багом
Читать дальше
Безопасность