Feasibility-First: почему агенты не знают, когда остановиться, и как это использовать

Парадокс: Llama-405B хуже справляется с отказом от невыполнимых задач, чем Llama-70B. Чем сильнее в модели установка «помогай любой ценой», тем реже она говорит «не могу» — и почти в половине случаев продолжает работу там, где давно нужно остановиться. Разделение на две роли — «плановик проверяет, исполнитель делает» — позволяет перехватить задачу до того, как модель потратит время на красиво оформленную ложь. Плановик сначала составляет список того, что нужно для задачи, и проверяет есть ли это — точка остановки появляется до первого действия. Исполнитель запускается только если плановик дал добро — частота ошибочных попыток падает почти в 10 раз.