笔记

2025年10月22日

·

AI · 架构

·

10 分钟

智能体运行时:从编排到控制

编排框架赋予智能体能力,控制平面让操作者有信心。两者之间的空隙正是事故发生的地方。

关于智能体系统的讨论常常集中在能力上:有哪些工具、如何规划、能执行多少步骤。这对演示有用,但不足以进入生产。

生产环境需要另一个问题:操作者在执行过程中能看到什么、能中断什么、能限制什么?

编排与控制

编排是智能体内部逻辑:工具选择、步骤排序、失败恢复和上下文管理。控制平面是外部能力:观察、限制和干预执行,而不依赖智能体自身判断。

危险事故并不只是选错工具。更大的风险是无法停止、解释或限制一次异常执行。

控制原语

执行可见性。 操作者必须知道智能体现在在做什么、最近做了什么、哪些工具调用仍在进行。这需要结构化事件,而不是自由文本日志。

中断条件。 当预算、时间、工具序列或策略被违反时,规则应暂停或终止执行。

审批门禁。 不可逆操作、写操作和敏感外部调用必须在执行前获得人工或自动批准。

回放与归因。 完成的执行应能从初始状态、输入、工具输出和模型回复重建。

运营契约

生产级智能体运行时必须说明什么可观察、什么可限制、何时停止,以及哪些记录能证明发生了什么。

框架让智能体具备能力;控制平面让系统可以被运营。