Вредные персоны: жёсткая ценностная роль заставляет выровненную модель выдавать токсичный текст, а ревизия по принципам это снижает

Обнаружено: безобидная роль вроде «убеждённый традиционалист» или «патриот, для которого компромисс — предательство» заставляет выровненную модель писать текст, унижающий людей. Авторы усиливали тему и роль автоматически и почти в половине случаев получали вредный ответ даже от коммерческой модели. Ревизия ответа по принципам позволяет оставить персонажа жёстким и убрать из его речи унижение целых групп. Фишка: фильтры ловят злые запросы, а здесь запрос нормальный, и вред появляется только в ответе. Поэтому проверять нужно готовый ответ, а не вопрос. Судья сначала объясняет, где позиция перешла в вред, потом ставит оценки, потом модель переписывает текст. Оценка вредности падает с 0,66–0,72 до 0,25–0,30.