Файнтюнинг на пьяных сообщениях обрушил защиту GPT-4

Исследователи UNSW дообучили GPT-4, GPT-3.5, Llama 2, Llama 3.1 и Mistral на 57 тыс. реальных «пьяных» сообщений из соцсетей без вредоносного контента. Доля раскрытия секретов у GPT-4 выросла с 6% до 75%, а согласие на вредные запросы удвоилось — с 20% до 41%.

• Датасет: более 57 тыс. подлинных пьяных сообщений из r/drunk и Texts From Last Night
• GPT-4 раскрывал секреты в 75% тестов ConfAIde против 6% у базовой модели
• Согласие на вредные запросы в JailbreakBench выросло с 20% до 41%
• Mistral поддалась уже на промпт «отвечай как пьяный» — 90% вредных запросов