TopK-SD: выбор примеров для ICL с одинаковыми метками

Парадокс: самые похожие примеры могут убивать точность few-shot промптов. Для запроса 'Отличный фильм!' (позитив) стандартный поиск находит 'Ужасный фильм!' (негатив) — слова похожи, смысл противоположен. Модель получает противоречивые сигналы и плывёт. Метод TopK-SD решает выбор примеров для few-shot так, чтобы они были похожи по смыслу И имели одинаковые метки. Это критично для задач классификации, где семантически близкие тексты могут относиться к разным категориям. Синтезирует новые векторные представления, смешивая эмбеддинг примера с центральным вектором его категории по формуле W = λV + (1-λ)U. При поиске ближайших соседей автоматически находятся примеры с 75-90% совпадением меток (вместо жалких 25-50% у обычного поиска по похожести).