Alignment Tax: почему ChatGPT даёт одинаковые ответы и как это использовать

Проверить ответ LLM повторным вопросом — одна из самых распространённых практик. Она не работает. Выровненные модели — ChatGPT, Claude, Gemini, всё что прошло обучение на предпочтениях (DPO) — в 40–79% случаев дают семантически одинаковый ответ при повторном запросе. Не потому что знают правду, а потому что выучили «правильную» позицию и держатся за неё. Метод Verbalized Sampling позволяет разбить эту эхо-камеру: явно попросить несколько противоречащих друг другу позиций и восстановить ~67% разнообразия невыровненной модели. Фишка: запрет на повторение аргументов между ответами — ключевой элемент. Без него модель схлопнется в семантически одинаковые версии одного ответа. С ним — три роли реально противоречат друг другу. Разнообразие не выключено — просто его нужно явно потребовать.