Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Кодекс поведения ИИ-агентов: автоматизированная политика-ограничитель в виде синтеза промптов
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Обнаружено: LLM в свободной форме генерируют непредсказуемые ответы, что делает их ненадёжными для критических задач (модерация, фильтрация, проверка соответствия). Policy as Prompt позволяет превратить языковую модель в строгого исполнителя, который не генерирует текст, а выносит вердикт на основе чётких правил. Промпт структурируется как мини-программа: Роль + Политика (что можно/нельзя) + Примеры + Строгий формат вывода (JSON) — модель перестаёт «фантазировать» и начинает работать как детерминированный классификатор с точностью сопоставимой с fine-tuned моделями, но без дообучения.