Epistemic Modesty: почему LLM отвечают уверенно даже когда данных недостаточно

Модель говорит 'в контексте этого нет' — и тут же выдаёт ответ, будто сама себе не поверила. Исследователи протестировали Claude, GPT и Qwen на вопросах о позициях партий, специально портя контекст пятью способами. Итог: без чётких данных модель не молчит — она достраивает ответ из внутренних знаний или тихо выбирает одну сторону при споре источников, не предупреждая об этом. Фишка: явная инструкция 'отдели факт из текста от догадки из памяти' резко снижает эту подмену — проблема не в возможностях модели, а в отсутствии чётких правил игры.