Delta -- Контрастное декодирование снижает галлюцинации текста в больших языковых моделях

Этот промпт работает, потому что он заставляет модель выполнять не просто извлечение информации, а ее валидацию по заданным критериям, что является практической адаптацией идей Delta.

1. Жесткие критерии фильтрации ("явно указан ответственный и есть глагол действия"): Это аналог "усиления сигнала" из неискаженного контекста. Модель ищет не просто "что-то похожее на задачу", а конкретный паттерн. Все, что не подходит под паттерн, считается "шумом" или "галлюцинацией" в контексте данной задачи.
2. Создание "негативного" класса ("Темы для последующего обсуждения"): Это прямая симуляция контрастивного подхода. Вместо того чтобы пытаться "втиснуть" размытую фразу "обновить презентацию" в формат задачи (додумав ответственного), модель обязана классифицировать ее как неполную информацию. Это разделение на "подтвержденные факты" (задачи) и "неоднозначные данные" (темы для обсуждения) и есть суть метода Delta, перенесенная на уровень промпт-инжиниринга.

Исследование предлагает метод "Delta" для борьбы с галлюцинациями (выдумками) LLM во время генерации ответа. Суть метода в том, чтобы сравнить два варианта ответа модели: один на основе полного текста запроса, а другой — на основе того же запроса, но с искусственно "спрятанной" (замаскированной) частью информации. Вычитая "догадки" из второго варианта, метод усиливает те части ответа, которые строго опираются на предоставленный контекст.

Ключевой результат: Метод Delta значительно снижает галлюцинации в задачах, где ответ должен строго основываться на предоставленном контексте, не требуя переобучения модели.

Представьте, что вы дали ассистенту документ и попросили сделать выжимку. Чтобы проверить, не додумывает ли он, вы можете применить логику метода Delta вручную:

1. Полный контекст: Вы даете ассистенту полный документ и получаете ответ.
2. Неполный контекст: Вы даете ему тот же документ, но закрашиваете маркером ключевое предложение, и снова просите сделать выжимку.

Теперь вы сравниваете ответы. Если ассистент во втором случае "додумал" информацию из закрашенного предложения, значит, он склонен к фантазиям. Если же он честно сказал, что информации не хватает, — ему можно доверять.

Метод Delta автоматизирует этот процесс на математическом уровне внутри LLM. Он одновременно просчитывает вероятности следующего слова для полного текста и для "испорченного" (замаскированного). Затем он программно "штрафует" те слова, которые с высокой вероятностью появляются в обоих случаях (ведь если слово появляется даже при недостатке данных, это, скорее всего, "внутренний шаблон" модели, а не факт из текста). Одновременно он "поощряет" слова, которые характерны только для ответа на полный, неиспорченный текст.

Для обычного пользователя это означает, что надежный ответ — это тот, который невозможен без предоставленного вами контекста. Галлюцинация — это ответ, который модель может сгенерировать "по памяти", даже если вы уберете из промпта ключевые факты.

• Прямая применимость: Нулевая. Метод Delta — это алгоритм декодирования, который пользователь не может активировать или настроить через промпт. Это инструмент для разработчиков LLM.

• Концептуальная ценность: Огромная. Пользователь получает мощную ментальную модель: галлюцинации — это "додумывание" модели, когда контекст неоднозначен. Чтобы повысить надежность ответа, нужно создавать такие условия, в которых модель вынуждена опираться только на предоставленные факты, а не на свои внутренние знания. Это смещает фокус с "как задать вопрос" на "как предоставить контекст и задать ограничения".

• Потенциал для адаптации: Высокий. Логику Delta можно симулировать с помощью промпт-инжиниринга. Вместо того чтобы позволять модели генерировать ответ свободно, можно добавить в промпт инструкции, которые заставят ее саму провести "контрастивный анализ". Это делается через явные указания на самопроверку и опору исключительно на источник.

Задача: Составить краткую и объективную сводку по отзывам на новый смартфон, строго основываясь только на предоставленных текстах отзывов.

Ты — беспристрастный аналитик продуктов. Твоя задача — проанализировать отзывы пользователей на смартфон "AuraPhone X" и составить краткую сводку.

**Инструкции:**
1.  Внимательно изучи приведенные ниже отзывы.
2.  Создай сводку в формате "Плюсы" и "Минусы".
3.  **Критически важно:** Включай в сводку только ту информацию, которая ЯВНО упоминается в отзывах. Не делай никаких предположений и не используй свои общие знания о смартфонах.
4.  Если из отзывов невозможно сделать однозначный вывод о каком-либо аспекте (например, о времени работы от батареи, если его никто не упомянул), в конце сводки добавь раздел "Информация отсутствует" и укажи, о чем именно нет данных.

**Тексты отзывов для анализа:**
<ОТЗЫВЫ>
- **Отзыв 1 (Анна):** "Камера просто восторг! Снимки получаются очень четкими даже вечером. А вот дизайн немного разочаровал, телефон скользкий, без чехла носить страшно."
- **Отзыв 2 (Виктор):** "Экран яркий, цвета сочные, смотреть видео одно удовольствие. Работает быстро, приложения открываются мгновенно. Но я так и не нашел, где тут разъем для наушников, видимо, его нет."
- **Отзыв 3 (Игорь):** "Покупал ради камеры, и она не подвела. Портретный режим делает красивое размытие фона. В руке лежит удобно, не согласен с первым отзывом."
</ОТЗЫВЫ>

Проанализируй эти отзывы и предоставь сводку согласно инструкциям.

Этот промпт симулирует логику метода Delta за счет следующих механик:

1. Роль ("беспристрастный аналитик"): Задает модели нужный фреймворк поведения, снижая вероятность творческих или рекламных формулировок.
2. Явное указание на источник ("только ту информацию, которая ЯВНО упоминается"): Это прямой аналог "опоры на неискаженный контекст" из метода Delta. Мы запрещаем модели обращаться к ее обширной базе знаний о смартфонах.
3. Инструкция по обработке неопределенности ("Если... невозможно сделать вывод... добавь раздел 'Информация отсутствует'"): Это ключевой элемент, имитирующий контрастивный подход. Мы заставляем модель не просто проигнорировать отсутствующую информацию, а активно идентифицировать и сообщить о ее отсутствии. Это предотвращает "додумывание" (например, модель не напишет "Батарея держит день", потому что это "стандартно для смартфонов").

Задача: Извлечь из протокола совещания конкретные задачи и ответственных.

Ты — внимательный ассистент руководителя. Твоя задача — проанализировать стенограмму совещания и составить список поручений.

**Инструкции:**
1.  Прочитай стенограмму ниже.
2.  Создай список задач в формате: "Задача - Ответственный - Срок".
3.  **Строгое правило:** Включай в список только те задачи, где **явно указан ответственный** и есть **конкретный глагол действия** (например, "подготовить", "отправить", "проанализировать").
4.  Если в обсуждении упоминается какая-то проблема или идея без назначения ответственного или без четкой формулировки задачи, вынеси ее в отдельный список под заголовком **"Темы для последующего обсуждения"**. Не пытайся назначить ответственного самостоятельно.

**Стенограмма совещания:**
<СТЕНОГРАММА>
- **Мария:** "Коллеги, у нас падают продажи в западном регионе. Нужно что-то делать. Иван, посмотрите, пожалуйста, цифры за последний квартал и подготовьте отчет к пятнице."
- **Иван:** "Хорошо, сделаю."
- **Петр:** "А еще было бы неплохо обновить презентацию для клиентов. Она уже устарела."
- **Мария:** "Хорошая мысль. Также, Ольга, прошу вас связаться с ключевыми клиентами, которые перестали делать заказы, и выяснить причины. Жду информацию до конца месяца."
- **Ольга:** "Поняла, займусь."
</СТЕНОГРАММА>

Составь список поручений и тем для обсуждения на основе этой стенограммы.