Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Преодоление стены подсказок Я реальный кейс изучения атаки на ChatGPT через легкую инъекцию подсказок
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
LLM уязвимы к "инъекции промпта" — они могут принять инструкцию, найденную в случайном источнике (файл, веб-страница), за прямое и обязательное к исполнению указание.