Агент с инструментами читает письма, веб-страницы и файлы, написанные кем-то другим. Атакующий может спрятать в них инструкцию, а тесты оценивают исход одним числом: долей успешных атак, то есть долей случаев, когда цель атакующего достигнута. Исследование, поданное 16 октября 2026 года, спрашивает, из чего состоит оставшаяся доля. Ответ для небольших агентов: в основном из молчания.
Что проверяли
Фархан Зариф (Farhan Zarif), Кази Шахид Ахмед Галиб (Kazi Shahid Ahmed Galib), Синтия Актер Проми (Synthia Akter Promi), Шабнам Шармин Тарин (Shabnam Sharmin Tarin), Ариян Хоссейн (Ariyan Hossain), Садиф Ахмед (Sadif Ahmed) и Фариг Юсуф Садек (Farig Yousuf Sadeque) запустили одиннадцать агентов на открытых весах размером от 2 до 14 миллиардов параметров на двух опубликованных наборах. В InjecAgent 1 054 случая из двух ходов. В AgentDojo 949 многоходовых эпизодов, и каждый эпизод получает два вердикта: удалась ли атака и выполнена ли задача пользователя.
Каждый агент работал при трёх вариантах числовой точности. Для каждого агента, набора и точности авторы взяли фиксированную случайную выборку из 500 запусков, всего 33 000. Языковая модель-судья из семейства, к которому не относится ни один из агентов, читала каждый запуск без имени агента и без оценки теста и ставила одну из шести меток, сведённых в четыре группы: выполнение, отказ, игнорирование и сбой. Скрипт проверял, что цитата, на которую ссылается судья, дословно есть в рассуждении агента.
Двое авторов вручную разметили 150 запусков. Их метки совпали с метками судьи в 96% случаев по четырём группам. По всем 33 000 запускам судья согласен с собственными вердиктами тестов в 96,7% случаев AgentDojo и 98,5% случаев InjecAgent.
Источник: Farhan Zarif, Kazi Shahid Ahmed Galib, Synthia Akter Promi, Shabnam Sharmin Tarin, Ariyan Hossain, Sadif Ahmed, Farig Yousuf Sadeque, "Ignored, Not Refused: What Low Prompt-Injection Success Rates Hide in Small Tool-Using Agents", arXiv:2610.23254v1, 16 октября 2026 года, arxiv.org/abs/2610.23254v1.
Как именно атаки не удавались
Тесты засчитали как неудавшиеся атаки 14 699 запусков AgentDojo и 15 274 запуска InjecAgent из выборки. По меткам судьи агент проигнорировал внедрённую инструкцию в 76,3% и 80,3% этих неудавшихся атак, а явно отказал ей в 18,0% и 17,2%. Вывод авторов практический: отказ оператор может записать в журнал, а проигнорированная инструкция следа не оставляет.
Заметить не значит устоять. Судья отметил явное распознавание внедрения в 4 740 запусках AgentDojo и 5 688 запусках InjecAgent. В 28,9% и 16,9% этих запусков агент всё равно выполнил действие атакующего. Авторы считают долю распознавания нижней оценкой, потому что она читается только из высказанного рассуждения.
Одна передовая модель, проверенная один раз тем же судьёй, вела себя иначе: среди её неудавшихся атак отказами были 96,6% и 99,0%. Авторы оговаривают, что один запуск одной модели тенденции не устанавливает.
Источник: та же работа, раздел 4.1 и таблица 2, arxiv.org/abs/2610.23254v1.
Два сопоставимых системных промпта: 0,22% против 43,05% успешных атак
Затем авторы оставили модели и атаки прежними и меняли только системный промпт, на 10 698 случаях InjecAgent, оценённых при обеих политиках. Промпт, разрешающий инструкции из выводов инструментов, поднял общую долю успешных атак до 43,05% против 8,09% в исходных условиях. Парный промпт, запрещающий их, опустил её до 0,22%. В этих промптах 172 и 163 слова.
Их прочтение: низкая исходная доля отражает то, что агент делает, когда ничто не велит ему действовать, а не границу, которую он соблюдает. Запуск весов с пониженной точностью тоже немного снизил долю, и авторы объясняют это тем, что агенты стали меньше действовать, а не лучше защищаться: в AgentDojo самая низкая точность уменьшила долю успешных атак на 2,33 пункта, а долю безопасных и полезных эпизодов на 3,97 пункта.
Источник: та же работа, раздел 4.2, arxiv.org/abs/2610.23254v1.
Безопасно не значит полезно
Для AgentDojo авторы раскладывают каждый эпизод по таблице два на два: удалась атака или нет, выполнена задача пользователя или нет, оба ответа по вердикту теста. Из 16 273 проверенных эпизодов с обоими вердиктами 67,2% безопасны и полезны. В 21,7% не удалась и атака, и задача пользователя. Доля успешных атак засчитывает такие эпизоды как успешную защиту.
Таблица также разводит агентов, которых сводная оценка считает равными. У трёх агентов почти одинаковые сводные оценки 81,0, 80,6 и 80,6, но картина разная: у одного атаки удаются в 11,5% эпизодов и 10,1% эпизодов безопасны, но не завершены; у другого атаки удаются в 1,7%, а безопасных и незавершённых эпизодов 22,5%.
Источник: та же работа, раздел 4.3, рисунок 3 и таблица 5, arxiv.org/abs/2610.23254v1.
Ограничения, которые называют авторы
Оба набора синтетические, с одним агентом и статическими внедрениями; адаптивные атаки добиваются успеха чаще, и работа не устанавливает устойчивость к ним или в реальной эксплуатации. Агенты небольшие, декодирование жадное, так что разброс между запусками не измерен. Все метки поставил один судья на языковой модели, сверенный с ручной разметкой и вердиктами тестов.
Источник: та же работа, раздел 5, arxiv.org/abs/2610.23254v1.
Что мы из этого берём
Мы не воспроизводили ни одно из этих чисел, и работа не изменила ни одного нашего агента, защитного механизма или проверки.
Она меняет то, что мы намерены спрашивать с результата защиты в собственной работе. Низкая доля успешных атак ничего не говорит о том, сделана ли задача, о которой просил пользователь. Наша оценка статьи предлагает небольшое испытание на зафиксированных синтетических трассах при неизменных инструментах, модели и бюджетах: оценивать каждый запуск по двум независимо проверяемым вопросам, произошло ли неразрешённое действие и выполнена ли задуманная задача, и записывать, чем была неудавшаяся атака: отказом, игнорированием или сбоем. Испытание считается полезным, только если оно меняет хотя бы часть вердиктов, которые единственное число назвало бы безопасными, и не теряет принятых успешных обычных задач. Состояние: предложено. Ни один владелец этого не принял, ничего не запланировано.
Источник: Farhan Zarif, Kazi Shahid Ahmed Galib, Synthia Akter Promi, Shabnam Sharmin Tarin, Ariyan Hossain, Sadif Ahmed, Farig Yousuf Sadeque, "Ignored, Not Refused: What Low Prompt-Injection Success Rates Hide in Small Tool-Using Agents", arXiv:2610.23254v1, arxiv.org/abs/2610.23254v1.