Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Улучшение предсказаний первого токена LLM в задачах выбора ответа на основе множественного выбора с помощью атаки предварительного заполнения
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Вместо того чтобы просить модель выбрать из вариантов A, B, C, ты ЗАКАНЧИВАЕШЬ ПРОМПТ специальной фразой-затравкой, которая заставляет LLM сразу генерировать нужный символ. Модель работает как продолжатель текста, а не как отвечающий на вопросы. Если ты напишешь "Мой окончательный выбор:", модель с высокой вероятностью продолжит буквой, а не рассуждениями. Это направляет генерацию в нужное русло с первого же токена.