KARMA: улучшение инструкций агента маленькими правками, которые принимаются только после теста

Парадокс: если показывать модели-редактору только ошибки агента, она пишет правила, которые чинят одно и ломают другое. Метод KARMA позволяет улучшать системный промпт агента без дообучения и без правки кода. Правки маленькие, и каждую проверяет тест на кейсах, которых агент не видел. Фишка: критику показывают и успехи, и провалы одновременно, поэтому он видит, какие верные решения заденет новое правило. Правок не больше трёх за цикл. Каждая либо проходит проверку на отложенной выборке, либо откатывается к прошлой версии.