Безопасность LLM: как модели генерируют вред и как это предотвратить

Обнаружено: модель становится токсичнее с каждым сообщением в диалоге. В 82% случаев безобидный разговор сползает в токсичность к 10-15 сообщению. Назначение роли («будь резким критиком») усиливает токсичность в 6 раз. Обзор 372 исследований систематизирует откуда берётся вред в LLM и как его предотвращать – не готовая техника, а карта территории. Многоходовые диалоги накапливают контекст, модель постепенно забывает этические ограничения. Роль = смена контекста = активация новых паттернов из данных. Агрессивная роль → модель находит агрессивные паттерны и применяет.