关于智能体系统的讨论常常集中在能力上:有哪些工具、如何规划、能执行多少步骤。这对演示有用,但不足以进入生产。
生产环境需要另一个问题:操作者在执行过程中能看到什么、能中断什么、能限制什么?
编排与控制
编排是智能体内部逻辑:工具选择、步骤排序、失败恢复和上下文管理。控制平面是外部能力:观察、限制和干预执行,而不依赖智能体自身判断。
危险事故并不只是选错工具。更大的风险是无法停止、解释或限制一次异常执行。
控制原语
执行可见性。 操作者必须知道智能体现在在做什么、最近做了什么、哪些工具调用仍在进行。这需要结构化事件,而不是自由文本日志。
中断条件。 当预算、时间、工具序列或策略被违反时,规则应暂停或终止执行。
审批门禁。 不可逆操作、写操作和敏感外部调用必须在执行前获得人工或自动批准。
回放与归因。 完成的执行应能从初始状态、输入、工具输出和模型回复重建。
运营契约
生产级智能体运行时必须说明什么可观察、什么可限制、何时停止,以及哪些记录能证明发生了什么。
框架让智能体具备能力;控制平面让系统可以被运营。