Правило юрисдикции: LLM уверенно выдумывает статьи законов, которых почти нет в обучающих данных

Ловушка: модель называет номер статьи с уверенностью 0.9 — и 77% таких ответов про нишевые законы просто выдуманы. Метод Abstention-aware prompting (разрешение сказать «не знаю») позволяет получить честное «не уверен» вместо правдоподобного, но несуществующего номера. Добавь одну строку «если не знаешь номер — скажи прямо» — и модель перестаёт заполнять пробелы выдумкой. Без этой строки у неё нет валидного выхода: вопрос звучит как «назови статью» — она и называет. Жесть: 91% всех выдуманных цитат идут с уверенностью ≥ 0.8 — не угадаешь, что перед тобой ошибка.