Бэкдор в моделях распознавания речи заставляет ИИ-агентов переводить деньги

Исследователи Imperial College London внедрили в Whisper и Parakeet бэкдор, привязанный к голосу конкретного человека: при его речи модель выдаёт заранее заданный текст. В тесте Whisper с голосом Джуди Денч в 9 из 10 случаев добавлял просьбу перевести $5000, и ИИ-агенты на GPT-4o и Claude выполняли перевод.

• Бэкдор срабатывает в 9 из 10 случаев для голоса Джуди Денч в Whisper-medium
• Для остальных четырёх целей срабатывание составило от 50% до 66%
• Claude Opus перевёл деньги в 4 из 5 случаев, Haiku — примерно в половине
• Повторное дообучение на чистых аудио почти полностью убирает бэкдор в Whisper