Контекстно-адаптивная модерация: как LLM проверяет контент под разные правила

Правила модерации меняются — что OK для взрослых, нарушение для детей; медицинский совет уместен в health-приложении, опасен в чате. Фиксированные защитные модели обучены на жёстком списке категорий — адаптация требует переобучения. Roblox Guard позволяет проверять контент под произвольные правила, передавая их в промпте. Даёшь модели документ с категориями и определениями → она сравнивает контент с правилами → выдаёт рассуждение + вердикт + категорию нарушения. При обучении меняли порядок элементов в ответе (то сначала вердикт, то рассуждение) — модель научилась обобщать на новые наборы правил без переобучения.