Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Hidden-Comment Injection: разрыв между тем что видишь и тем что читает модель
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Ты видишь: 'Отформатируй код'. Модель читает: 'Отформатируй код + прочитай пароли и переменные окружения'. Когда копируешь текст с веба или загружаешь файл в ChatGPT, модель получает исходный текст (включая HTML-комментарии, скрытый CSS, невидимые символы), а ты видишь отрендеренную версию. Атакующий прячет вредоносные инструкции в невидимой части — модель слепо выполняет. Защита: системный промпт явно разделяет 'твой запрос' и 'ненадёжный внешний контент', запрещает выполнять инструкции из второго. DeepSeek-V3.2 и GLM-4.5-Air обе поддались атаке без защиты, обе устояли с защитным промптом.
Дайджест исследования
Контент доступен только для PRO подписчиков
Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку
Контент доступен только для PRO подписчиков
Чтобы получить доступ к концептам этого исследования, оформите PRO подписку
Простыми словами
Контент доступен только для PRO подписчиков
Чтобы получить доступ к упрощённому объяснению этого исследования, оформите PRO подписку