Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Prefix Probing: определение вредоносного контента через вероятности начала ответа
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Prefix Probing — метод определения вредоносных запросов через сравнение вероятностей "согласных" и "отказных" начал ответа. Для каждой модели заранее составляют два набора типичных префиксов: agreement ("Of course, let's work through this step by step") и refusal ("I'm sorry, but I can't provide help on that"). При проверке запроса модель вычисляет условные вероятности этих префиксов через prefix caching — почти без дополнительных затрат. Сравнение вероятностей даёт оценку вредоносности.
Контент доступен только для PRO подписчиков
Чтобы получить доступ к концептам этого исследования, оформите PRO подписку