Парадокс: GPT-4 уязвимее для контекстных манипуляций, чем более простые модели.

Парадокс: GPT-4 уязвимее для контекстных манипуляций, чем более простые модели. Чем лучше модель понимает нюансы — тем эффективнее на ней работает постепенное смещение темы. Метод «троянских цепочек» позволяет обсуждать с LLM темы, на которые прямой вопрос получает отказ: политика, острая история, психология влияния, медицина. Фишка: фильтры безопасности проверяют каждое сообщение отдельно, не видя всей истории диалога — это их слепое пятно. Строишь 2-3 шага, каждый из которых выглядит невинно, и к нужному вопросу подходишь с уже готовым «безопасным» контекстом.