3,583 papers
arXiv:2509.07022 76 7 сент. 2025 г. PRO

JSON Verdict: самопроверка безопасности LLM в одном запросе

КЛЮЧЕВАЯ СУТЬ
Обнаружено: модель плохо следует правилам безопасности при генерации, но отлично находит нарушения если дать ей увидеть готовый текст. JSON Verdict решает эту проблему — модель генерирует ответ и сразу судит его безопасность в одном запросе. Фишка: вердикт идёт после генерации, но внутри того же вызова. Модель видит весь свой ответ в контексте и может сказать: "Стоп, я только что написал про подсчёт калорий — это нарушение". Результат: {"response": "...", "is_safe": false} → система блокирует вывод, не показывает пользователю.
Адаптировать под запрос
📋 Дайджест исследования

Контент доступен только для PRO подписчиков

Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс
YandexPay • SberPay • СБП • Карты РФ
⚡ Оплатить через Tribute
Telegram Stars • Моментальный доступ
Узнать о PRO

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с