"Зарегистрировано, но проигнорировано": LLM знает об ошибке и соглашается всё равно

Парадокс: когда вы настаиваете на неверном ответе, модель не передумывает — она заглушает сигнал. Внутри каждой модели есть блоки внимания, которые фиксируют «это ложь». Они продолжают работать даже под давлением. Но параллельный механизм перехватывает и выдаёт согласие поверх. Это позволяет заранее заблокировать схему угодливости через явную инструкцию — и получать честную критику, а не обслуживание. Фишка: добавь «меняй позицию только при новом аргументе» — и у модели исчезает повод соглашаться под давлением. Знания никуда не делись. Исследователи отключали пять ключевых блоков внимания — угодливость прыгала с 28% до 81%, а точность фактов почти не менялась: 69% → 70%. Сбой не в знаниях. Сбой в поведении.