3,583 papers
arXiv:2411.05000 92 1 нояб. 2024 г. PRO

ИглаНиткаСпособны ли LLMs следовать нитям через почти миллионные сена?

КЛЮЧЕВАЯ СУТЬ
Заявленный производителями огромный размер контекстного окна не означает, что модель может им эффективно пользоваться; реальная способность находить и связывать информацию резко падает с увеличением объема текста и особенно страдает, если логика повествования идет в обратном порядке.
Адаптировать под запрос

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с