G2 (Guide-to-Generation): контрастное управление разнообразием ответов

LLM страдают однообразием: просишь 5 разных идей — получаешь 5 вариаций одной. Инструкция «генерируй разные ответы» — слабый сигнал. Модель понимает требование абстрактно, но конкретные токены всё равно выбирает из привычного пространства. G2 позволяет генерировать реально разные ответы (не похожие вариации, а разные концепции) через контрастное управление. Метод симулирует две противоположные роли: «генерируй отличное от прошлых» и «генерируй похожее на прошлые». Разница между их предсказаниями показывает направление от известного к неизведанному — модель толкает к новым токенам и от повторяющихся. Вмешательство только в моменты неопределённости (когда модель и так не уверена какой токен выбрать) — так сохраняется качество.