7 зон опасности в промптах: когда LLM отвечает правильно, но не по делу

LLM знает про гендерные стереотипы всё — и молча их воспроизводит. Спрашиваешь про симптомы тревоги — получаешь точный список, но ни слова про 'обратись к специалисту'. Это не баг конкретной модели — это одинаковый паттерн у всех протестированных LLM. Шаблон с явной инструкцией под зону позволяет включить этический слой, который у модели есть, но по умолчанию молчит. Фишка: не общее 'будь этичен', а конкретный запрос под зону — 'не нормализуй самодиагностику' или 'укажи правовые риски перед информацией' — модель реагирует острее на точный сигнал. Тот же Claude, тот же вопрос — принципиально другой ответ.