Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Оценка чувствительности больших языковых моделей к предыдущему контексту
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
LLM ЗАБЫВАЕТ первоначальную инструкцию в длинных диалогах из-за размытия информации. Модель уделяет больше внимания последним токенам в контексте, поэтому критически важные указания ТОНУТ в общем потоке. Простое повторение основной задачи в самом конце промпта восстанавливает точность ответов почти на 100%.