Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Модель рассуждения упертая диагностика переопределения инструкций в моделях рассуждения.
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Продвинутые LLM страдают РИГИДНОСТЬЮ МЫШЛЕНИЯ – они упорно игнорируют четкие, но необычные инструкции, если те противоречат заученным шаблонам. Модель "исправляет" пользователя, считая нестандартное условие ошибкой. Три механизма упрямства: НЕДОВЕРИЕ К ДАННЫМ ("это опечатка"), ИЗБЫТОЧНАЯ ИНТЕРПРЕТАЦИЯ ("пользователь имел в виду что-то сложнее") и ЧАСТИЧНОЕ ВНИМАНИЕ (игнорирование ключевых условий).