arXiv:2504.02441 90 1 апр. 2025 г. PRO

Когнитивная память в больших языковых моделях

КЛЮЧЕВАЯ СУТЬ

Большие языковые модели работают как человек с ОЧЕНЬ КОРОТКОЙ ПАМЯТЬЮ – они помнят только то, что находится в текущем контекстном окне. Пользователь должен стать внешним менеджером памяти, активно помогая модели сохранять и извлекать важную информацию из прошлых взаимодействий через структурированные саммари и блоки ключевых фактов.

Адаптировать под запрос

Контент доступен только для PRO подписчиков

Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс

YandexPay • SberPay • СБП • Карты РФ

⚡ Оплатить через Tribute

Telegram Stars • Моментальный доступ

Узнать о PRO

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

Выберите модель ИИ:

Ваш запрос:

0 / 2000

~0.5-2 N-токенов ~10-30с

~0.3-1 N-токенов ~5-15с

90

ПРЕВОСХОДНО

Когнитивная память в больших языковых моделях

Возможности

Работа с огромными текстами 95%

Улучшение промптов 90%

Диалоговые агенты и виртуальные ассистенты 85%

Область

Наука и исследования 90%

IT и разработка ПО 80%

Личная продуктивность 75%

Паттерн

Retrieval-Augmented Generation (RAG) 95%

КОМУ ПОЛЕЗНО

Контент-менеджер

Использует 'долгосрочную память' (редакционную политику, гайдлайны) и 'краткосрочную память' (контекст предыдущих постов) в промптах для LLM, чтобы обеспечить стилистическую и концептуальную целостность серии публикаций, снижая необходимость ручной коррекции и повышая скорость создания контента.

Менеджер проектов

Применяет 'промптинг с осознанным управлением памятью' для ведения длительных проектов с LLM, создавая 'саммари памяти' (ключевые решения, требования, договоренности) и инъецируя их в промпты. Это позволяет LLM 'помнить' важные детали на протяжении всего проекта, снижая галлюцинации и обеспечивая последовательность ответов.

Исследователь

Использует концепцию 'внешнего гиппокампа' для систематизации и извлечения информации из больших объемов научных текстов. Создает структурированные 'саммари памяти' из прочитанных статей, которые затем подает в промпт LLM для генерации обзоров или анализа, обеспечивая точность и полноту контекста.

Разработчик ПО

Применяет принципы управления памятью для работы с LLM при написании кода или отладке. Сохраняет ключевые архитектурные решения, требования к функциям или историю ошибок в 'долгосрочной памяти' (текстовом файле) и включает их в промпты, чтобы LLM генерировала более релевантный и корректный код, сокращая время на итерации.

Специалист по поддержке клиентов

Использует 'саммари памяти' для каждого клиента (история обращений, предпочтения, решенные проблемы) при взаимодействии с LLM-ассистентом. Это позволяет ассистенту предоставлять персонализированные и контекстуально точные ответы, улучшая качество обслуживания и сокращая время решения проблем.

Юрист

Создает 'саммари памяти' из прецедентов, законодательных актов или деталей дела, чтобы LLM могла 'помнить' все релевантные юридические нюансы при составлении документов или анализе кейсов, повышая точность и соответствие правовым нормам.

Маркетолог

Использует 'долгосрочную память' для хранения данных о целевой аудитории, брендовых гайдлайнах и результатах прошлых кампаний. Инъецирует эти данные в промпты для LLM при генерации маркетинговых текстов, обеспечивая соответствие тону бренда и релевантность для ЦА, что повышает эффективность кампаний.