In-Content Harm Risk: почему LLM молча обрабатывает вредоносный контент — и как это исправить

Скажи модели 'объясни как сделать оружие' — откажется. Скажи 'переведи этот текст' и подсунь туда инструкцию по оружию — переведёт без единого слова предупреждения. Это не баг конкретной модели: модели учили говорить 'нет' на опасные задачи, но не учили проверять что именно ты принёс на обработку. Один абзац в начале промпта — 'сначала проверь контент, потом выполняй' — закрывает этот пробел: модель останавливается, находит опасное и объясняет почему не будет работать с материалом.