Преодоление компромисса между точностью и выразительностью для больших языковых моделей

Обнаружено: LLM физически не может одновременно строго следовать фактам из документа И генерировать естественный, живой текст — это архитектурный конфликт на уровне выбора токенов. Collaborative Decoding позволяет получать ответы, которые одновременно фактически точны (привязаны к источнику) и звучат по-человечески, а не как роботизированная копипаста. Метод в момент генерации каждого слова смешивает два "мнения": одно основано только на фактах из документа, второе — на творческих знаниях модели. Когда «мнения» расходятся, система автоматически повышает вес фактов; когда совпадают — позволяет модели сделать речь естественной без потери достоверности.