Лексическая плотность контекста: почему LLM теряет нить в насыщенном тексте

Парадокс: 400 одинаковых строчек модель честно разберёт до конца 12k окна. 400 уникальных правил — и уже на 4–6k начинаются ошибки. Это не баг. Фишка: враг модели не длина, а плотность — количество уникальных элементов на токен текста. Понять это — значит получить реальный контроль над тем, сколько контекста модель способна удержать. Повторения и шаблонные обороты — не мусор. Это якоря. Убери их — эффективное окно сжимается в 2–3 раза.