Retrieve-then-Reason: как длина контекста убивает рассуждения даже при идеальном поиске

Парадокс: модель извлекает информацию со 100% точностью, но теряет до 85% точности в рассуждениях. Проблема не в качестве поиска — проблема в том, что контекст слишком длинный. Метод Retrieve-then-Reason позволяет решать задачи на длинных документах без потери точности — превращает long-context задачу в short-context. Разделение труда: сначала извлечение доказательств в отдельном запросе, потом рассуждение на коротком контексте. Llama-3.1-8B находит условия в 970 из 1000 задач, но падает на 24.2% в точности решения — метод возвращает эти проценты обратно.