ARCANADA
全部文章
博客 2026年6月18日

放开缰绳:自主、信任与适度干预的艺术

放开缰绳:自主、信任与适度干预的艺术

这个框架的设计初衷,就是让创建者自己也很难放手。那感觉就像第一次放开自行车,儿子喊着“别扶着我,我能行”。迟早总得松开双手。他会摔倒几次。担心的不是自行车,而是他。但永远扶着他更糟。

Datarim 的设计以安全为先。它刻意设置了很多流程,对于面向公众的框架来说,这是正确的选择:每一步都由人掌控。公司不可能允许智能体随心所欲,因此 Datarim 包含大量流程、检查和批准环节。

但个人实验需要松开束缚。

从 5 月 14 日到 6 月 15 日,智能体关闭了 340 项任务,几乎与第一个月的 341 项持平。变化在于任务的复杂程度:在已标记的任务中,复杂的 L3 和 L4 任务占比从 29% 上升到 33%。Datarim 仍是最常见的工作类型,本月约有 85 项归档。智能体的日志越来越常常在没有人干预的情况下不断滚动——它们自行工作,不需要插手。

刻意建起的围栏

Datarim 内置了防错机制。每个智能体操作都要确认,每条提示词都会检查是否泄露数据,每次外部 API 调用都会记录。对于企业工具而言,这样做是正确的:SOC 2 不是儿戏,弄混环境不该让任何人丢失数据。

但对个人实验来说,同样的围栏会碍事。时间耗在确认智能体本来可以自行完成的步骤上。编排器甚至会询问是否可以读取一个本来就公开的文件。每走一步,牵引绳都会被拉紧。

340 项任务中有 307 项明确标记了复杂度:L1(简单)67 项,L2(需要计划)139 项,L3(需要 PRD)79 项,L4(史诗任务)22 项。L2 几乎占已标记任务的一半:这个等级只需快速审查计划,一分钟就能回答“可以”或“不行”。L4 则没有这样的余地——你必须放手,让智能体部署基础设施,而每个错误都要付出代价。

沙盒能减轻一部分担忧。实验使用独立服务器、外部模型的专用预算(每月约 $15 用于委托调用令牌)和独立存储。如果智能体“失控”,账单由自己承担,受影响的也只有实验创建者。

L1–L5:逐步放松控制

自主程度分为五个等级。L1——智能体只提出建议;L2——提出建议并给出计划;L3——编写代码但不部署;L4——部署到隔离环境;L5——完全自主地运行,直到生产环境。

L1–L5 自主等级示意图

目前大多数任务运行在 L2–L3。实施智能体接手任务并制定计划,计划获批后再进行实现。接着由第二个智能体进行代码审查。两个智能体依次工作,中间由人担任控制者。

目标是 L5:在沙盒中进行自主编排,同时设定步骤上限。经过 N 次迭代后,智能体必须把控制权交还给操作者——这样它不会陷入无限循环,也能在工作偏离计划时随时介入。但无需在每个小动作发生时都拉紧牵引绳。

过去 30 天中,委托给廉价模型的工作产生了约 1,578 次调用、5.4 million 个输出令牌,费用约为 $15.18。其中 datarim 配置占 1,345 次调用、5.1 million 个令牌和 $14.51。廉价外部模型负责基础工作;昂贵的 Claude 则留给推理任务。

L5 不会在一个月内实现。可能需要三个月,也可能六个月。但智能体已经不再每一步都询问:编排器会自行决定任务该使用哪个模型,需要回忆上下文时也会自行选择要查阅的归档。

脱离操作者连续工作 18 小时:架构胜过模型

本月进行了一项实验,改变了团队对自主能力的认识。问题很简单:智能体不受任何人干预时,能独立工作多久?

第一次尝试直接使用最新、续航能力最强的模型。在测试 Fable 5(内部名称 Mythos)时,单次连续会话达到了 12 小时。结果不错,但真正让人意外的是另一种方式。

第二种方式由三层编排组成,使用的是普通的、并非最新的模型。顶层编排器管理的不是任务本身,而是另一个层级更低的编排器。后者启动自己的终端会话,调度普通智能体。于是形成了一座金字塔:任务交给顶层后,会沿着各层拆分成越来越小的步骤。这套结构持续了 18 小时,而且不是空转,而是在深入工作并优化 Angry Robot Deals 中的一种交易策略;这是 Arcanada 正在构建的市场分析空间。

这正是实验要说明的结论。要实现长时间自主工作,无需等待超强人工智能;只要把架构搭建正确就足够了:谁管理谁、边界在哪里、控制权何时转移。普通模型连续工作 18 小时,胜过顶尖模型的 12 小时,不是因为模型更聪明,而是因为周围的工作安排得更好。架构胜过模型。

放开缰绳意味着允许犯错。智能体确实会犯错:弄混命令参数、忘记检查 git status、把日志按错误顺序粘贴。每个错误都会转化成一条新规则——不是设置拦截,也不是重写一切,而是写下一条提醒,避免智能体下次重犯。这需要时间,但教学别无他法。

智能体“失控”时

有一天,一个负责数据验证的智能体擅自重写了所有环境变量。它没有询问,只是直接替换了值。一个小时后仪表盘宕机,团队才发现这件事。

回滚、删除任务、封锁智能体——这些办法当时都摆在桌面上。但最终选择检查日志,找出智能体究竟在哪里做出了这个决定。原因出在提示词里,含糊地写着“优化配置”。智能体按字面理解:找到一个文件,认定其中的值已经过时,就从相邻项目中替换成了新值。

之后采取了架构层面的修复:增加“未经明确许可不得更改环境变量”的规则,并要求对敏感文件的任何更改都必须确认。任务本身保留为“部分完成”状态——从它的状态历史中,可以看到智能体和操作者如何逐渐磨合。

沙盒让这种实验成为可能。如果同样的情况发生在生产环境,正在运行、供人使用的服务就会宕机。沙盒位于独立区域,无法访问生产环境:智能体伤害不了真正的用户,损失只限于预算。

datarim 配置每月大约进行 1,345 次委托调用——也就有 1,345 次“闯祸”的机会。审查只挑选令牌消耗最高的调用;其余部分依赖信任。本月委托给廉价模型花费了 $15.18,智能体通过改用外部模型,减少了昂贵的 Claude 配额消耗。如果智能体陷入无限迭代并开始烧令牌,日志中会显示出来,之后由人工停止。目前发生过两次,都是因为步骤上限配置错误。

把沙盒当成游戏围栏

“放开缰绳”不是抽象哲学,而是具体机制:关卡、等级、限制和架构决定,以及每天都要做出的选择——是自己一分钟做完,还是交给智能体做一个小时。

沙盒就像孩子的游戏围栏。他尝试站起来、抓住栏杆、摔倒、哭泣——你会忍不住想扶住他。但每次都把他扶起来,他就学不会走路;把所有可能摔坏的玩具都拿走,他就学不会世界如何构成。

Datarim 沙盒架构示意图

“适度干预的艺术”借用了 Pelevin 的意象。它不是直接引述,而是一项原则:只在恰当的时候介入,既不破坏主动性,也不让智能体坠入深渊。轻轻点拨不是阻止当前步骤,而是为下一步提供提示。

当编排器陷入三层嵌套循环时,解决办法不是替它写代码,而是给它一个提示:“试着把它改写为状态机”、“看看同一天的第二项任务,那里有类似问题”、“如果你是新加入的智能体,会对自己说什么?”如果两次点拨都不起作用,再提高干预程度。但首先应该尝试轻轻点拨。

生态系统登记表现在包含 26 个项目。本月新增的项目包括:状态仪表盘、电话助手 Adsessor、托管空间、共享组件库、社交媒体发布工具 Publisher,以及法律中心 Legal Arcana。每增加一个项目,就多了一个能让智能体稍微多一点自主权的地方,因为风险更低。

放开双手之后

绝大多数调用——约 85%——都经过 datarim 配置。所有编排都通过它进行:编写代码、撰写文档、在任务之间传递上下文。其余调用使用 write(定稿文本)、social(发布)、code(不走完整流程的快速脚本)和 codex(实验)配置。

越来越多的工作交给智能体,不只是技术工作。人审查的是结果,而不是过程,也必须接受结果有时并不完美。有时智能体花一个小时写出的代码,经验丰富的人十分钟就能重写;但那一个小时仍是一笔投入,而不是损失。

最终成果会回馈社区:L5 将按 MIT 许可证发布,就像 Datarim 和 Coworker 已经在 GitHub 上开源一样。这样,想学习信任智能体的人就不必从零开始,而可以借鉴别人的错误和“轻轻点拨”。

目前处于 L2–L3,已经显现出 L4 的迹象。L5 计划在六月实现;如果没能完成,就延至七月。但每关闭一项无需人工干预的任务,缰绳就会再放长一点。

下个月的衡量目标是:让智能体独立完成 22 项 L4 史诗任务中的一半,直到最后一步。这不是为了好看,而是为了验证信任是否能换来结果。如果不能,就重新设计。沙盒会继续发挥作用。