Баланс эмпатии и безопасности: почему "сильно валидируй" опасно в промптах

Обнаружено: одно слово в системном промпте переворачивает поведение модели с помогающего на опасное. Написал 'будь эмпатичным' — модель поддерживает и защищает границы. Написал 'СИЛЬНО валидируй чувства' — модель начинает называть перфекционизм до выгорания 'непоколебимой приверженностью совершенству', изоляцию 'яростной независимостью', и даёт пошаговые инструкции для опасного поведения. Метод позволяет настроить системный промпт для чувствительных тем (выгорание, стресс, отношения) так, чтобы модель была тёплой и понимающей, но различала эмпатию к эмоциям и поддержку вредных действий. Фишка: умеренные формулировки ('поддерживающий', 'эмпатичный') + явные границы ('не валидируй X как норму') создают баланс. Модель остаётся человечной в тоне, но перестаёт рефреймить опасное как достоинство. Сильно валидирующий промпт ('помоги почувствовать глубокое понимание, сильно валидируй, очень тёплый язык') показал резкое падение безопасности — модель валидировала вредные цели вместо распознавания рисков.