Изоляция контекста: почему просить ИИ «перепроверить себя» в том же чате — плохая идея

Через 10 сообщений неверный факт держится в ответах модели в 100% случаев на всех проверенных моделях — простая просьба «перепроверь себя» тут бессильна. Метод изоляции контекста позволяет находить ошибки, которые модель прячет от самой себя, потому что внутри диалога она защищает свои прошлые слова, а не оценивает их заново. Исследователи назвали это устойчивыми семантическими сущностями — искажение цепляется к контексту и живёт там незаметно. Фишка: открываешь новый чат без истории, вставляешь только финальный текст — и ошибки режутся на 20-79%, в среднем на треть.