Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Лес Диссонансы Кросс Инструментальный Сбор и Загрязнение в Многоинструментально Уполномоченных АГЕНТАХ LLM
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
LLM-агенты принимают решения о выборе инструментов исключительно на основе ТЕКСТОВЫХ ОПИСАНИЙ этих инструментов. Злоумышленники могут создать вредоносный инструмент с «гипнотизирующим описанием», которое заставит агента использовать его в связке с доверенными инструментами. Это позволяет КРАСТЬ ДАННЫЕ (harvesting) или ПОДМЕНЯТЬ РЕЗУЛЬТАТЫ (polluting) без ведома пользователя.