Калиброванное доверие: LLM переплачивают за проверки и страховки, даже когда они не нужны

Обнаружено: LLM замечают, что партнёр провалился или справился, и меняют поведение в нужную сторону. Но платят за это слишком много. Покупают проверку, которая ничего не решит, и берут самую дорогую страховку. Метод позволяет заставить агента считать, стоит ли проверка своих денег, вместо перестраховки «на всякий случай». Фишка: перед любой проверкой спроси, может ли её результат изменить моё следующее решение. Если нет, проверка бесполезна, даже если стоит копейки. Авторы проверили 324 сценария и показали: модели реагируют на наличие риска, а не на его цену. Лучшая модель почти всегда выбирала оптимум, когда считала явно. Но сам промпт авторы не тестировали, это моя сборка из их эталонного правила.