Under-Clarification Bias: почему LLM отвечают вместо того чтобы уточнить

Парадокс: LLM обучены быть максимально полезными — и это работает против них. Модель боится выглядеть недостаточно helpful, поэтому додумывает за пользователя недостающий контекст. Результат: ответ развёрнутый, но мимо цели. Чем глубже диалог, тем хуже — точность падает с 70-90% на первом ходу до 40-60% на третьем. Исследование ClarifyMT-Bench (10 моделей, 6,120 диалогов) показало: модели не умеют решать «спросить или ответить». Худший сценарий — когда пользователь явно просит не уточнять («просто ответь уже»). Здесь точность 31-60%: модели игнорируют просьбу и продолжают переспрашивать. ClarifyAgent — структура из 4 шагов: (1) извлечь что известно и что неясно, (2) определить стиль пользователя, (3) вести список нерешённых вопросов, (4) решить — спросить или ответить. Выносит процесс принятия решения наружу вместо неявного «вроде понятно, отвечу».