Парадокс контекста: почему больше информации в промпте может ухудшить ответ LLM

Парадокс: Больше контекста в промпте = хуже результат. Исследование Walmart на задачах прогнозирования показало: средний уровень детализации обгоняет максимальный на 5-10%. Модель получает слишком много информации → тонет в деталях и отвлекается от ключевых паттернов. Метод позволяет получать более точные количественные прогнозы через управление плотностью контекста. Компактный промпт (числа + 2-3 ключевых факта) работает лучше, чем развёрнутое описание со всеми нюансами – модель фокусируется на устойчивом тренде, а не на случайных факторах.