Lost in the Middle: как модели теряют информацию в длинных контекстах

Парадокс: загрузил в Claude 200 страниц инструкций – модель пропустила ответ со страницы 87, но нашла на страницах 10 и 180. Это эффект «Lost in the Middle»: модель видит начало и конец контекста, середину забывает. Двухшаговый поиск решает проблему – позволяет находить информацию в любой части документа без потери точности. Фишка: не подавай весь документ разом. Сначала модель сканирует и находит упоминания ключевых слов, потом разбирает только найденные фрагменты. Точность восстанавливается с 45-60% (середина) до 85%+ (весь документ).