Salience Induction: четыре рычага управления вниманием LLM

83% неверных ответов — без единой лжи в тексте. Исследователи просто переставили правдивые факты: выделили жирным не тот кандидат, добавили «точно подтверждено» к неправильному варианту, сдвинули нужный факт в середину — и пять топовых моделей дружно поплыли. Метод Salience Normalization позволяет защититься от этого эффекта — выровнять все варианты по форме до того, как модель делает вывод. Фишка: словесная инструкция «не давай преимущества первому» помогает слабо — работает только физическое выравнивание текстов. Одинаковая позиция, одинаковое форматирование, одинаковый тон, одинаковое смысловое окружение — тогда модель вынуждена работать с содержанием, а не с формой.