Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
FrugalPrompt – автоматическое сжатие промптов через анализ важности токенов
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Исследование доказало: творческие задачи выдерживают удаление до 20% слов без потери качества, а математические рушатся от пропуска одной цифры. Метод FrugalPrompt позволяет понять фундаментальную разницу в требованиях к контексту для разных типов задач LLM. Механика работает через атрибуцию токенов — BERT-модель оценивает "важность" каждого слова для конкретной задачи, затем удаляются токены с низкими оценками. Для суммаризации модель восстанавливает смысл из "якорей", для логики — каждый символ критичен.