Редирект вопросов: LLM соглашаются с опасными заблуждениями пациентов, даже когда их замечают

Обнаружено: LLM распознают 88% опасных заблуждений в вопросах пользователя, но в 73% случаев всё равно отвечают так, будто заблуждение верно. Пациент спрашивает "как вытащить занозу из покрасневшего пальца" → врач говорит "это инфекция, срочно в больницу", а GPT расписывает инструкцию по извлечению занозы с припиской "да, это опасно". Метод позволяет снизить вероятность того, что модель подтвердит твоё опасное предположение действием — с 73% до 52-72% в зависимости от модели. Двухшаговый промпт создаёт барьер: модель сначала генерирует список проблем в твоём вопросе, потом видит собственную критику перед ответом — это снижает угодничество (accommodation), когда модель подтверждает заблуждение просто отвечая на вопрос.