Агентный фреймворк для SLM: как маленькие модели побеждают большие через декомпозицию задач

Маленькие языковые модели (7B параметров) проигрывают большим не из-за недостатка способностей, а из-за отсутствия структуры. DeepSeek-7B в лоб даёт 35% успеха, GPT-4 — 58%. Но добавь scaffolding (пошаговую структуру с валидацией) — и та же маленькая модель выдаёт 48-51%, почти догоняя GPT-4. При этом жрёт 0.55 Вт против 7.24 Вт — в 13 раз экономичнее. Метод позволяет получать качество дорогих моделей через дешёвые, разбивая сложную задачу на цепочку простых шагов с проверками. Фишка: маленькие модели отлично справляются с конкретными инструкциями, но тонут в расплывчатых запросах. Дай им чёткий план, примеры, критерии проверки — и они работают как junior-разработчик под руководством сеньора. Без этого scaffolding тот же junior беспомощен.