3,583 papers
arXiv:2508.02961 88 4 авг. 2025 г. PRO

Защита LLM через самосознание

КЛЮЧЕВАЯ СУТЬ
Обнаружено: LLM генерирует ответ до того, как оценивает его безопасность — отсюда утечки вредоносного контента даже через защищённые системы. Self-Consciousness Prompting позволяет встроить проверку качества/безопасности прямо в промпт, превращая каждый запрос в двухэтапный процесс: генерация → самооценка → решение о выводе. Модель сначала создаёт ответ, затем сама оценивает его по вашим критериям (вредность/тон/полнота) и выводит только если он прошёл проверку88% защиты от prompt injection без единой строчки кода. Вы буквально превращаете промпт в метакогнитивную программу с условной логикой IF-THEN.
Адаптировать под запрос

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с