Таксономия обмана LLM: три механизма, которыми модель формирует ложные убеждения — и как каждый проверять

Парадокс: модель говорит только правду — а вы получаете ложную картину. Это называется прагматическим искажением, и именно от него не защищает ни одна проверка фактов. Исследователи из CMU и University of Toronto выявили три механизма, которыми LLM формирует ложные убеждения: прямой вымысел (выдуманные факты), умолчание (скрытые риски и оговорки) и прагматическое искажение (акценты и формулировки, создающие неверное впечатление из технически верных слов). Трёхвопросный аудит после любого важного ответа закрывает все три дыры одним запросом — вместо того чтобы гнаться за каждым механизмом отдельно. Большинство инструментов борются только с вымыслом — два других механизма остаются практически без защиты.