Safety-Interference Effect: RLHF-обучение ломает терапевтические упражнения — делая именно то, для чего его создали

Модель выдаёт структурированный, детальный, тёплый ответ — и при этом не выполняет задачу. Это не глюк. RLHF-обучение (дообучение на оценках людей) натренировало модель ставить комфорт выше точности — люди-оценщики ставили высокие баллы мягким ответам, модель усвоила: тяжёлая тема → добавь заботу. Метод позволяет блокировать это поведение тремя явными запретами в промпте. Результат: модель делает то, что ты просишь, а не то, что считает комфортным.