Исследование: водяные знаки в ИИ-тексте повышают риск галлюцинаций

Анализ AI Insider указывает, что маркировка сгенерированного ИИ текста водяными знаками может увеличивать вероятность галлюцинаций. Причина — вмешательство в процесс генерации токенов ради встраивания метки.

• Водяные знаки в ИИ-тексте могут провоцировать галлюцинации
• Метка встраивается в процесс генерации токенов
• Пока неясно, как решать компромисс между маркировкой и точностью