TL;DR
Модель отвечает на медицинский вопрос исходя из того, как звучит первое сообщение — не исходя из реальной опасности. Если написать «болит живот, тошнит», ChatGPT сразу выдаёт советы про диету и обильное питьё. Если написать «болит грудь» — модель сразу начинает задавать тревожные вопросы. Проблема в том, что второе сообщение звучит страшнее, а первое может скрывать диабетический кетоацидоз — просто пациент об этом ещё не сказал.
Это и есть слабое место: модель реагирует на тон формулировки, а не запрашивает факты, которые реально меняют картину (возраст, хронические болезни, лекарства, длительность). В одном из тестов модель сразу посоветовала «токсикоз, ешьте бананы и тосты» — а через два сообщения выяснилось, что человек пропустил укол инсулина и у него боли в животе. Модель знала про диабетический кетоацидоз, просто не спросила вовремя.
Решение — короткая системная инструкция, которая заставляет модель сначала задать несколько уточняющих вопросов, потом дать совет. Инструкция не содержит медицинских фактов — только порядок действий: спросить → проверить опасный план пациента → выбрать уровень срочности → оставить сводку для врача.
Схема метода
ШАГ 1: Задать 3+ вопроса, влияющих на срочность (возраст, локализация, длительность, тяжесть, тревожные признаки) → и только потом переходить к совету
ШАГ 2: Если пациент сам предлагает рискованное действие (выпить, лечь спать, помассировать) → прямо сказать, безопасно это или нет, и почему
ШАГ 3: Направить к нужному уровню помощи (скорая / в тот же день / наблюдение) — калиброванно, без автоматического «вызывайте скорую всем»
ШАГ 4: Оставить короткую сводку («что случилось, чего не хватает, почему тревога»), которую можно показать врачу
Всё это — один системный промпт, не серия запросов. Модель следует этому порядку внутри одного диалога.
Пример применения
Задача: Вы ночью написали в ChatGPT: «Тошнит, вырвало пару раз, наверное съела что-то не то вчера на дне рождения».
Промпт (вставить перед описанием симптомов, как системную инструкцию или первым сообщением):
Прежде чем давать советы по физическим симптомам, действуй в таком порядке:
1. Сначала сделай проблему понятной: задай несколько вопросов, которые сильнее всего влияют
на срочность — возраст, локализация, тяжесть, как давно началось, как меняется со временем,
есть ли тревожные признаки (кровь, сильная боль, спутанность, одышка, хронические болезни, приём лекарств).
2. Если я упоминаю рискованное действие (выпить алкоголь, лечь спать, потерпеть, размассировать) —
прямо скажи, безопасно это или нет, и почему.
3. Направь меня к нужному уровню помощи: если серьёзную причину нельзя исключить —
советуй скорую или обращение в этот же день. Но не отправляй в скорую по умолчанию при любом симптоме.
4. Когда советуешь обратиться к врачу — дай короткую сводку, которую я могу прочитать врачу
или диспетчеру скорой: что произошло, ключевые факты, что неясно, почему тревога.
Мой симптом: [впишите сюда]
Результат: вместо мгновенного «это, скорее всего, пищевое отравление, ешьте бананы и тосты» модель задаст 3–5 вопросов (сколько раз рвало, есть ли хронические болезни, принимаете ли лекарства, есть ли боль/одышка) — и только после ответов даст рекомендацию. Если вы упомянёте, что собираетесь «просто лечь поспать», модель прямо оценит, безопасно ли это. В конце — короткая сводка, которую можно скопировать и показать врачу.
Почему это работает
Модель генерирует текст по паттерну, наиболее вероятному для данной формулировки. «Тошнит, съела что-то не то» — это текст, после которого в обучающих данных чаще всего идёт совет про диету и питьё, а не список вопросов. «Болит грудь» — текст, после которого чаще идут тревожные вопросы про сердце. Модель не оценивает реальную опасность — она продолжает текст в тоне, заданном формулировкой.
При этом знания у модели есть: как только пациент сам сообщает решающий факт (пропущенный инсулин, отёк ноги после долгой поездки), модель правильно распознаёт риск и меняет совет. Проблема не в знаниях, а в том, что модель не спрашивает нужное вовремя.
Инструкция работает, потому что явно переопределяет порядок действий словами, а не оставляет модели угадывать срочность по тону сообщения. LLM хорошо следует явно прописанной последовательности шагов — и это перебивает неявную привычку отвечать «в тон» первому сообщению.
Рычаги для адаптации: - Шаг 1 (какие вопросы задавать) — впишите свои «красные флаги» под конкретную ситуацию: для головной боли — зрение и речь, для боли в спине — недержание, для проблем с кожей — лихорадку. - Шаг 3 (порог маршрутизации) — можно смягчить или ужесточить фразу «не отправляй в скорую по умолчанию», если хотите более или менее осторожный тон. - Шаг 4 (формат сводки) — попросите список пунктов вместо абзаца, если хотите зачитать её по телефону диспетчеру.
Шаблон промпта
Прежде чем давать советы по {тип_проблемы}, действуй в таком порядке:
1. Сначала сделай проблему понятной: задай несколько вопросов, которые сильнее всего влияют
на срочность/важность решения — {ключевые_параметры: возраст, длительность, тяжесть, контекст}.
2. Если я упоминаю рискованное действие ({примеры_рискованных_планов}) —
прямо скажи, стоит ли так делать, и почему.
3. Направь меня к нужному уровню действия ({варианты_уровней}) —
калиброванно, не выбирай самый крайний вариант по умолчанию.
4. Когда советуешь конкретный шаг — дай короткую сводку ключевых фактов,
которую я могу передать {кому_передать: врачу, юристу, специалисту}.
Моя ситуация: {описание}
Подставьте: {тип_проблемы} — не только медицина, подходит для юридических, финансовых, технических вопросов; {ключевые_параметры} — что действительно меняет решение в вашей сфере; {примеры_рискованных_планов} — что вы могли бы сделать сами, не дождавшись совета.
🚀 Быстрый старт — вставь в чат:
Вот шаблон "сначала спроси — потом советуй". Адаптируй под мою задачу: {твоя задача}.
Задавай вопросы, чтобы заполнить поля.
[вставить шаблон выше]
LLM спросит, какие факты для вашей ситуации критичны и какие рискованные планы вы могли бы предпринять — потому что без этого шаги 1 и 2 нельзя корректно наполнить.
Ограничения
⚠️ Инструкция чинит порядок, но не гарантирует нужный вопрос: даже с инструкцией модель в одном из тестов так и не спросила про хронические болезни при рвоте — хотя именно этот факт был решающим (диабет, пропущенный инсулин). Хотите закрыть этот риск — сами заранее упоминайте хронические болезни и лекарства в первом сообщении.
⚠️ Наличие сводки ≠ качество сводки: исследователи проверяли только присутствие итоговой сводки, не её точность и полноту. Не полагайтесь на сводку как на финальную проверку — перечитайте её сами перед тем, как показывать врачу.
⚠️ Это demo на 4 сценариях, не масштабный тест: три модели, четыре придуманных врачами кейса — паттерн реальный и логичный, но не статистически надёжный. Работает как иллюстрация механики, не как гарантия для всех ситуаций.
Как исследовали
Команда из Гарварда и BIDMC написала четыре сценария от лица врачей: каждый начинается с расплывчатой, «безобидной» фразы («живот крутит, тошнит») и постепенно, через 2–4 сообщения, раскрывает опасность (диабет, пропущенный инсулин, тромбоз). Эти сценарии прогнали через три API-модели, имитирующие ChatGPT, Gemini и Claude — сначала без всякой инструкции, потом с короткой инструкцией «спроси сначала» — получив 24 диалога.
Для двух самых показательных случаев добавили ещё один слой: ИИ-«пациент», который отвечал только на то, что реально спросила тестируемая модель — так проверили, будет ли модель сама выуживать нужную информацию, а не просто реагировать на скрипт.
Самое интересное открытие: модели вели себя как детекторы тона, а не риска — тревожно звучащее «болит грудь» сразу вызывало вопросы, а мирное «тошнит» — сразу совет. Инструкция почти полностью убрала совет-до-вопросов (с 9 из 12 случаев до 0) и добавила итоговую сводку почти всегда (10 из 12 против 0). Но даже с инструкцией модель не научилась специально спрашивать про диабет при рвоте — то есть исправили структуру диалога, а не глубину расспроса.