Training-Free Alignment: три точки вмешательства в работу LLM

URIAL показал парадокс: 3 примера в промпте + системная инструкция выравнивают предобученную LLM на уровне fine-tuning версий. Метод позволяет получить aligned модель без затрат на дообучение – работает даже с закрытыми моделями типа GPT-4, которые физически не дотренируешь. Фишка: вмешательство в трёх точках процесса генерации – до (промпты), во время (корректировка токенов) или после (фильтрация ответов). Это решает три боли fine-tuning: деградацию знаний (модель забывает общие способности), стоимость (данные + GPU), недоступность закрытых моделей.