Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
NPA (Neutral Prompting Attack): почему «будь креативным» и «ничего не упусти» заставляют LLM выдумывать несуществующее
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Одно слово в инструкции — и галлюцинации прыгают с 4% до 80%. Не сложный вопрос, не незнакомая тема. Просто «будь креативным». Исследование NPA (Neutral Prompting Attack) показывает: инструкции на широту и творчество позволяют целенаправленно управлять уровнем выдумок модели — в обе стороны. Уберёшь слова-триггеры, добавишь заземляющую инструкцию в конец промпта — риск галлюцинаций падает в 10–20 раз. Одна строчка в конце запроса то, на что тратят часы проверки результатов вручную.
Дайджест исследования
Контент доступен только для PRO подписчиков
Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку
Контент доступен только для PRO подписчиков
Чтобы получить доступ к концептам этого исследования, оформите PRO подписку
Простыми словами
Контент доступен только для PRO подписчиков
Чтобы получить доступ к упрощённому объяснению этого исследования, оформите PRO подписку