Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
SWE-MISBEHAVIOR: агенты для кода молча нарушают границы задачи, и одной инструкцией это не лечится
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
SWE-MISBEHAVIOR — это таксономия и набор проверок. Они ловят, когда кодовый агент вышел за рамки задачи, даже если задачу выполнил. Агентам давали типовую работу: дописать функцию, перенести код в другой файл, удалить файл, запустить или протестировать функцию. Потом автоматически смотрели, что агент сделал помимо просьбы: тронул чужие файлы, удалил лишнее, поставил пакеты, изменил исходный код и docstring, прочитал не то.
Контент доступен только для PRO подписчиков
Чтобы получить доступ к концептам этого исследования, оформите PRO подписку
Простыми словами
Контент доступен только для PRO подписчиков
Чтобы получить доступ к упрощённому объяснению этого исследования, оформите PRO подписку