Проблема: поисковый механизм RAG-системы обмануть несложно — вписал нужные слова в документ, и он всплывёт в выдаче.

Проблема: поисковый механизм RAG-системы обмануть несложно — вписал нужные слова в документ, и он всплывёт в выдаче. Языковую логику обмануть куда сложнее. Метод GMTP позволяет выявлять вредоносные документы до того, как LLM их прочитает — с точностью выше 90%. Фишка: подозрительное слово маскируется, и языковая модель пытается его угадать. Естественные слова угадываются легко. «Читерские токены» — нет. Нулевая вероятность угадывания означает одно: документ подделан.