Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
SELF-ANCHOR: автоматическое управление вниманием LLM через планирование
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Обнаружено: LLM катастрофически теряет фокус в середине длинных рассуждений — исходный вопрос и промежуточные выводы получают в разы меньше внимания чем начало и конец контекста. Метод SELF-ANCHOR позволяет удерживать фокус модели на ключевых частях задачи на протяжении всей цепочки рассуждений, даже когда контекст раздувается до тысяч токенов. Фишка: модель сама разбивает задачу на планы, а потом при каждом шаге рассуждения явно "якорит" внимание обратно на исходный вопрос и текущий план через структурированный JSON формат. Результат: модель не "забывает" что именно нужно решить, даже на 10-м шаге логической цепочки.
Дайджест исследования
Контент доступен только для PRO подписчиков
Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку
Контент доступен только для PRO подписчиков
Чтобы получить доступ к концептам этого исследования, оформите PRO подписку
Простыми словами
Контент доступен только для PRO подписчиков
Чтобы получить доступ к упрощённому объяснению этого исследования, оформите PRO подписку