LLM как буквалисты: почему модели слишком верят правилам и как это использовать

LLM воспринимают правила как единственную истину — если в промпте написано 'фактор А вызывает эффект Х', модель решит что других причин нет. Человек автоматически думает: 'наверное есть ещё что-то'. Эта разница измеряется через Background-Adjusted Causal Strength (BACS) — насколько агент полагается на явные правила versus неявные факторы. У моделей BACS близок к 1.0 (максимальное доверие тексту), у людей 0.3-0.5 (учитывают фоновые причины). Метод позволяет получить от LLM реалистичный анализ причин, а не формальную логику — если явно попросить учесть неупомянутое.