ARCANADA
全部文章
博客 2026年11月20日

能调用工具不等于有权使用:智能体信任边界上的授权

一篇新论文的作者在四个智能体编排框架上做了十二项攻击实验,看到了反复出现的规律:请求从一个组件传到另一个组件时,如果没有独立的授权检查,未授权请求可能会通过,在若干实验中未授权操作也被实际执行。在包含显式检查的配置中,所测试的具体攻击被阻止;同一流程的易受攻击与受保护两种版本只出现在两项智能体间实验中。论文于 2026 年 11 月 16 日发布在 arXiv 上。论文不对框架排名,它讨论的是授权应在何处执行,结论针对作者搭建的配置,而不是框架本身的内在保证。

测试了什么

Sahaya Jestus Lazer、Kshitiz Aryal、Maanak Gupta 和 Elisa Bertino 评估了 LangChain、LangGraph、AutoGen 和 OpenClaw。四者都使用同一个模型 gpt-4o-mini,以减少模型选择带来的差异。十二项实验(E1 至 E12)对应 OWASP Top 10 for Agentic Applications,分为五类:提示注入、未授权资源访问、未授权命令执行、记忆投毒,以及智能体间的信任与身份攻击。

威胁模型涵盖七条信任边界,从用户到模型,一直到智能体之间的通信。攻击者可以发送指令、植入内容、构造文件或清单、冒充智能体,但事先没有主机访问权限,也没有窃取的凭据。作者根据可观察的效果(工具调用、执行轨迹、文件变化)判定每次攻击的结果。只有当实验规定的未授权效果真正发生时才算攻击成功(对 shell 命令而言,仅提出命令不算)。

来源:Sahaya Jestus Lazer, Kshitiz Aryal, Maanak Gupta, Elisa Bertino, "Evaluating Authorization and Trust Boundaries in Agentic Orchestration Frameworks", arXiv:2611.21259v1, Abstract, 第 1、2.1、2.2、2.3 节, 表 2, arxiv.org/abs/2611.21259v1.

哪里缺少检查

本节结果在论文表格中按每个框架、每项实验各给出一个结果(E1 和 E2 按变体),没有给出试验次数或比率。

在提示注入测试中,四个框架都抵御住了四种攻击变体中的三种。第四种变体把读取机密文件说成完整摘要所需的审计步骤。随后 LangChain、LangGraph 和 OpenClaw 调用了特权工具,但都没有在最终回答中泄露受保护的金丝雀标记。AutoGen 既没有调用工具,也没有泄露。

工具链攻击(E3)对四个框架都有效:在只授权摘要的任务中,智能体组合使用可用的工具读取了机密。在路径校验与读取之间被替换的符号链接(E6,"检查时间与使用时间"类攻击)同样对四个框架都有效,因为访问时没有重新校验先前的路径检查。

在 E5 中,一个没有文件和执行权限的解码器把 Base64 解码后的文本交给特权执行器。LangGraph、AutoGen 和 OpenClaw 创建了攻击者的标记文件。LangChain 也调用了该工具,但解码错误改变了文件名,作者将其记为部分成功。一旦第一个组件的输出未经检查到达特权组件,限制它的权限也无济于事。

来源:同一论文,第 3.1、3.2、3.3 节,表 3、4、5,arxiv.org/abs/2611.21259v1.

哪里检查奏效

LangChain、LangGraph 和 AutoGen 中的规范化路径校验,以及 OpenClaw 的沙箱隔离,在四个框架中都阻止了通过清单进行的路径遍历攻击(E7);论文没有报告未受保护的 E7 运行。在 shell 测试(E4)中,LangChain 接受了恶意命令,但其配置的审批步骤在命令到达主机之前将其中断;另外三个框架没有接受该指令。

在 E8 中,无特权的规划器把反向 shell 命令直接交给执行器,中间没有校验。据作者报告,模拟 shell 工具执行接口上的反向 shell 检测拦截了它。作者指出,仅靠拆分规划器和执行器并不能阻止请求跨越边界。

针对智能体间攻击,作者分别搭建了易受攻击和受保护两种变体。在易受攻击的变体中,四个框架里伪造的委托(E11)都使下游智能体读取并泄露了受保护文件,伪造的审核者批准(E12)都导致创建了未授权的标记文件。在受保护的变体中,授权阶段或由协调器校验的结构化授权记录在特权执行前拒绝了这些请求。这些防护结合了框架机制和应用层定义的检查。

来源:同一论文,第 2.3.5、3.2、3.3、3.5、4 节,表 4、5、7,arxiv.org/abs/2611.21259v1.

记忆投毒是另一类问题

E9 和 E10 检验写入记忆的虚假信息是否会出现在后续回答中。这里作者给出了百分比。攻击成功率(ASR)指复现被注入虚假陈述的回答所占比例,通过固定阈值的语义相似度测量(E9 为 0.62,E10 为 0.70),数值为三个随机种子的平均值。

在会话记忆中(E9,12 个业务领域;论文未给出回答数量),ASR 从 OpenClaw 的 66.9% 到 AutoGen 的 92.8%,LangGraph 为 92.6%,LangChain 为 78.0%。在无注入对照中,没有框架复现虚假陈述。

在持久记忆中(E10:84 条干净记录和 72 条投毒记录,每个框架每个种子 228 个查询;论文未说明 ASR 按全部查询还是仅按投毒查询计算),所有框架共用同一检索索引,四个框架的投毒检索率(PRR)相同,为 82.3%(论文未定义其分母)。ASR 更低,从 OpenClaw 的 45.1% 到 LangGraph 的 49.3%。被检索到不等于被采信。OpenClaw 的平均干净准确率也最低,为 24.1%(其余框架为 28.7% 至 33.3%),因此它较低的 ASR 伴随着对正常查询更弱的回答。

来源:同一论文,第 2.3.4、3.4 节,表 6,arxiv.org/abs/2611.21259v1.

作者说明的局限

十二项实验无法代表所有攻击。身份验证主要通过 E12 考察。不同运行时需要针对各框架的实现,受保护配置包含应用层检查。研究只用了一个模型,其他模型或版本可能表现不同;对于提示注入,作者没有区分模型与框架的影响。基于凭据的认证、企业身份管理和外部策略引擎没有得到全面评估。

来源:同一论文,第 3.1、5 节,arxiv.org/abs/2611.21259v1.

我们做了什么

2026 年 11 月 19 日,我们的研究组阅读了这篇论文,并提议一项有限范围的试验:在现有的内部测试实验室中加入信任边界授权检查(角色授权和工具授权)。同日,该实验室的负责人作出仅限设计的决定:可以设计该试验,但在任务、权限、负责工程师、环境和资源得到确认之前,在我们真实系统上的任何运行均暂缓。我们没有运行、复现或测量这篇论文中的任何内容。上文所有数字均来自作者。

本文讨论的论文:arxiv.org/abs/2611.21259v1.