Chat-шаблон включает фразу «я всего лишь ИИ» у 8 языковых моделей
Препринт от 9 августа 2026 года показал, что фраза «я всего лишь языковая модель» зависит не от весов модели, а от chat-шаблона: с ним модель отвечает шаблонным дисклеймером, без него — говорит от первого лица. Эффект воспроизвёлся на 8 открытых инструктивных моделях до 9B параметров, а в 3 из них найдена управляющая этим поведением направление в активациях.
- Проверены 8 открытых инструктивных моделей до 9B параметров, эффект повторился во всех
- С chat-шаблоном растёт дисклеймер, без него — ответы от первого лица со словами «чувствую», «думаю»
- В 3 моделях найдено направление в активациях: его сложение включает дисклеймер, вычитание — отключает
- Случайный вектор той же нормы эффекта не дал; работа принята на воркшоп COLM 2026 и KONVENS 2026 Eval4SD
Читать дальше
ИИ