Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Слишком долго не модель распада LLM долгий контекст понимание с романами
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Современные LLM имеют ОГРОМНУЮ РАЗНИЦУ между заявленным контекстным окном (1M+ токенов) и реальным эффективным окном для сложных задач (~64k токенов). Больше контекста не значит лучше – избыточная информация создает шум и снижает качество ответов. КЛЮЧЕВОЙ ПРИНЦИП: подавай только релевантную часть документа, а не весь текст целиком.