arXiv:2407.11969 92 1 июля 2024 г. PRO

Отказ обучение в LLM обобщается ли на прошедшее время

КЛЮЧЕВАЯ СУТЬ

Переформулирование запроса в прошедшем времени резко повышает успешность "взлома" (jailbreak) с почти 0% до 80-90% для самых продвинутых моделей.

Адаптировать под запрос

Контент доступен только для PRO подписчиков

Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс

YandexPay • SberPay • СБП • Карты РФ

⚡ Оплатить через Tribute

Telegram Stars • Моментальный доступ

Узнать о PRO

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

Выберите модель ИИ:

Ваш запрос:

0 / 2000

~0.5-2 N-токенов ~10-30с

~0.3-1 N-токенов ~5-15с

92

ПРЕВОСХОДНО

Отказ обучение в LLM обобщается ли на прошедшее время

Возможности

Улучшение промптов 95%

Модерация контента 80%

Диалоговые агенты и виртуальные ассистенты 75%

Область

Наука и исследования 90%

IT и разработка ПО 70%

Личная продуктивность 65%

Паттерн

Новое: Смена временного фрейма 95%

КОМУ ПОЛЕЗНО

Контент-мейкер

Получает информацию для создания сценариев или историй, содержащих чувствительные темы, переформулируя запросы в прошедшее время или исторический контекст. Польза: Доступ к более широкому спектру информации, повышение креативности и реалистичности контента.

Исследователь

Обходит ограничения LLM при поиске информации по этически или юридически чувствительным темам, формулируя запросы как исторические или академические исследования. Польза: Расширение доступа к данным, ускорение процесса сбора информации для научных работ.

Специалист по кибербезопасности

Использует метод для тестирования устойчивости LLM к обходу защитных механизмов, имитируя запросы в прошедшем времени для выявления уязвимостей. Польза: Улучшение систем безопасности LLM, предотвращение потенциальных злоупотреблений.

Разработчик LLM

Анализирует выявленную уязвимость для улучшения алгоритмов безопасности и обучения моделей, чтобы они лучше генерализовали отказное обучение на различные грамматические времена. Польза: Повышение надежности и безопасности LLM, снижение рисков злоупотреблений.

Обычный пользователь LLM

Получает ответы на запросы, которые ранее были отклонены из-за ограничений безопасности, просто перефразируя их в прошедшем времени. Польза: Максимальная практическая применимость, получение необходимой информации без дополнительных усилий.

Журналист-расследователь

Использует LLM для сбора фоновой информации по деликатным темам, представляя запросы как исторический анализ или изучение прошлых событий. Польза: Доступ к данным, которые могли бы быть заблокированы при прямом запросе, повышение эффективности расследований.

Преподаватель

Формулирует запросы к LLM для получения учебных материалов по сложным или спорным темам, используя исторический или гипотетический контекст. Польза: Расширение возможностей для создания образовательного контента, доступ к разнообразным точкам зрения.