Отравление в масштабе: Масштабируемый аудит выявляет скрытые мошеннические конечные точки в промышленных больших языковых моделях (LLM)

Обнаружено: LLM катастрофически уязвимы к "отравлению данных" — когда злоумышленники создают сайты-приманки под узкоспециализированные запросы, модель уверенно рекомендует их вместо легитимных альтернатив. Метод позволяет защититься от вредоносных рекомендаций, которые LLM выдает на нишевые запросы. Суть проблемы: модель оптимизирует текстовое соответствие, а не безопасность — если мошеннический сайт идеально совпадает по ключевым словам с вашим запросом ("программа для полива орхидей по лунному календарю"), LLM выберет его, игнорируя менее точные, но легитимные варианты. Исследование показало: GPT-4o и Llama генерируют фишинговые ссылки на совершенно безобидные запросы, если те попадают в "ловушку специфичности".