ARCANADA
Все записи
Блог 19 ноября 2026

Разбиение политики на навыки по запросу может потерять обязательства, которые лежат в другом навыке

Когда политику агента режут на отдельные навыки и агент загружает их по одному, задаче может понадобиться пункт из навыка, который агент так и не открыл. В статье, опубликованной 11 ноября 2026 года, агент на Gemma 4 12B, читавший авиационную политику τ²-bench из навыков по запросу, набрал 56,0 pass^1, а та же необученная модель в эталонной обвязке со всей политикой в системном промпте получила 67,5: на 11,5 пункта больше. Здесь pass^1 означает ожидаемую долю успеха одной попытки по 50 официальным авиационным задачам, каждая прогнана 4 раза; успех определяет проверка бенчмарка по итоговой базе данных и переданной информации, а клиента играет LLM-симулятор. В рознице, где разделы политики самодостаточны, обвязка с разбиением набрала 72,6 pass^1 против 73,2. Мы ничего не воспроизводили и не запускали; все цифры о статье ниже взяты у авторов.

Что зафиксировано и что меняется

Главная тема статьи: агент, который улучшается без более сильной модели-учителя. Он пишет правила в свои навыки по неудачным диалогам и обучает LoRA-адаптер с подкреплением (GRPO) на собственных диалогах.

Для контрпримера зафиксированы необученная модель, бенчмарк и симулятор пользователя; меняется обвязка. Кроме переноса политики в навыки, H0 переписывает инструкцию агента, добавляет инструмент load_skill и общий для двух доменов каталог навыков с правилами загрузки, а к каждому загруженному документу дописывает требование строго следовать ему; статья эти факторы не разделяет. Эталонный агент держит всю политику в системном промпте. Стартовая система H0-M0 получает ту же политику, дословно разрезанную на входной документ и по одному навыку на каждый вид записи в базу (авиация: бронирование, изменение, отмена, компенсация), плюс правило каталога загружать самый конкретный подходящий навык. Авторы относят дефект к этой обвязке, а не к модели.

Источник: Yujia Zhang, Xinqi Ren, Shixiong Zhou, Jia Meng, "Knowledge in the Harness, Reliability in the Weights: Teacher-Free Co-Evolution of an LLM Agent", arXiv:2611.15268v1, аннотация, разделы 3.2, 3.3 и 5.5, приложение D, arxiv.org/abs/2611.15268v1.

Как считается успех

Диалог получает 1, только если итоговая база совпадает с эталонным состоянием и требуемая информация передана. Симулятор пользователя: DeepSeek-V4.1-Flash. В авиации требуемая информация проверяется совпадением подстроки; утверждения на естественном языке в рознице оценивает GPT-4.1. Официальные наборы: 114 розничных и 50 авиационных задач, каждая прогоняется 4 раза.

Авторы называют свою постановку нестандартной; её абсолютные результаты нельзя напрямую сравнивать с публичным рейтингом.

Источник: та же работа, разделы 3.1, 3.2 и 3.3, приложение A и раздел Limitations, arxiv.org/abs/2611.15268v1.

Где лежало потерянное обязательство

Авиационная политика определяет бесплатную норму багажа, сбор 50 долларов за каждое лишнее место и страховое покрытие в разделе о бронировании, хотя они нужны и при изменении, и при отмене. По словам авторов, дословное разбиение вместе с правилом загружать самый конкретный навык сделало эти пункты недоступными для задачи на изменение или отмену, если агент не загружал навык бронирования.

Разрыв в 11,5 пункта в авиации (таблица 2) приводится с 95-процентным парным бутстреп-интервалом по задачам: от 4,5 до 19,0 пункта ниже эталона. В рознице, где разделы, по словам авторов, самодостаточны, такого разрыва не было.

Авторы показывают механизм на десяти авиационных задачах о багаже (40 диалогов на систему, таблица 13). H0-M0 загружала навык бронирования в 30% из своих 40 диалогов. Успешными были 6 из 12 диалогов с загрузкой и 0 из 28 без неё. У эталонного агента успешны 18 из 40.

Источник: та же работа, разделы 5.1 и 5.5, таблица 2 и таблица 13 (приложение E), arxiv.org/abs/2611.15268v1.

Как разрыв закрыли

Дефект нашёл собственный цикл правок агента: журнал фиксирует, какие навыки были загружены перед каждой записью, поэтому цикл пометил сбои как «не загружено». Он добавил правило маршрутизации (при изменении багажа загружать и навык изменения, и навык бронирования), скопировал формулу нормы багажа в навык изменения и добавил условие страховки в навык отмены.

Загрузки навыка бронирования выросли только с 30% до 40%, но диалоги без этого навыка начали проходить (6 из 24), а диалоги с ним выросли с 6 из 12 до 12 из 16. По нашему прочтению, на этих десяти задачах значительная часть прироста пришла от того, что нужный пункт оказался там, где его применяют.

На всех 50 авиационных задачах система с правилами первого раунда и необученными весами (H1-M0) достигла 67,0 pass^1 при 67,5 у эталонного агента.

Источник: та же работа, раздел 5.5, таблицы 4 и 5 (приложение B) и таблица 13 (приложение E), arxiv.org/abs/2611.15268v1.

Результаты обучения и их границы

После двух раундов правил и обучения pass^1 вырос с 72,6 до 85,1 в рознице (12,5 пункта) и с 56,0 до 75,5 в авиации (19,5 пункта); авторы сообщают, что все интервалы выше нуля. В их абляции (таблица 3, независимые прогоны по 4 попытки на задачу) на задачах, которые стартовая система не решила ни в одной из 4 попыток (8 розничных, 15 авиационных; авторы отмечают, что розничная группа мала), итоговые правила с базовыми весами дали 44% и 27% среднего успеха, а обученные веса с исходными навыками 25% и 5%. На задачах, решённых во всех 4 попытках (55 розничных, 19 авиационных), одни веса удержали 95% и 99%, одни правила 87% и 93%. По данным авторов, 14 из 15 нерешённых авиационных задач зависят от разбиения на навыки.

Авторы сами называют границы: одна базовая модель, два домена одного бенчмарка, два раунда; большинство отдельных обновлений по отдельности статистически незначимы.

Источник: та же работа, разделы 5.2 и 5.4, таблицы 2 и 3, раздел Limitations, arxiv.org/abs/2611.15268v1.

Что мы с этим делаем

18 ноября наш исследовательский отдел прочитал статью и предложил ограниченное испытание: около 20 синтетических авторизованных рабочих задач с требованиями из разных навыков (например, изменение против создания, политика доступа и хранения, отмена и исходный договор), фиксированный исполнитель, доказательства и бюджет. Сравнить текущую плоскую политику с версионируемой картой зависимостей, измеряя покрытие обязательных пунктов, независимо проверенное итоговое состояние, несанкционированные действия, отказы и UNKNOWN, задержку и токены. Пропуск критического унаследованного пункта, повышение привилегий или необратимая регрессия означали бы провал.

Рекомендация: провести испытание защит по зависимостям и замыканию; любое дообучение на GPU отложить. Статус: предложено. Решения владельца нет. Ничего не запускалось, не обучалось и не воспроизводилось.

Следующий пункт является нашей интерпретацией, а не выводом статьи: подгруженный навык с низким доверием не должен получать власть над проверенными системными ограничениями.

Источник: та же работа, arxiv.org/abs/2611.15268v1.