Структура промпта для аналитических задач: академическое руководство по работе с LLM

Скармливаешь LLM сразу 10 постов для анализа, чтобы сэкономить токены? Модель теряет точность на текстах в середине пачки — это spillover effect (эффект растекания): каждый элемент «видит» все остальные через механизм self-attention, сигнал размывается. Исследователи систематизировали структуру промпта для контент-анализа (классификация отзывов, постов, запросов): system message назначает роль («Ты аналитик отдела...»), user message содержит текст + чёткие инструкции + формат ответа + опционально 2-5 примеров. Temperature=0 даёт консистентные результаты, single-input (по одному тексту) убирает контекстный шум.