Havenlon | 杂谈:企业终于发现:AI Governance 不能只是一堆 Policy
2026 年 8 月 14 日,Boston Consulting Group 发布了一篇面向 CIO 的文章,提出了一个颇有意味的概念:Enterprise AI Control Plane。文章的观察相当务实:AI Agent 在大企业内部落地的速度,已经快过决策者设计治理框架的速度。不同业务部门从不同厂商引入 Agent,员工自己搭建的 Agent 也在悄悄运行,规则不一致,监督分散,成本失控。BCG 因此建议企业在所有平台之上建立统一的控制层,把身份、注册、可见性与运行时策略执行集中起来,并特别提醒:如果这一层脱离 AI Ops、DevOps 和现有产品生命周期而独立存在,它最终只会变成无人使用的 shelfware。
表面上看,这不过是企业 IT 架构又多了一层 Control Plane,是一个属于架构师和 CIO 的技术议题。
但如果把视角从技术架构拉回到管理学,会发现它背后其实触到了一件更根本的事情:我们过去熟悉的企业治理,很大程度上是按照“人类的执行速度”设计出来的。这个前提隐藏了几十年,几乎从未被讨论,因为它一直成立。
而 AI Agent 正在改变它。
一、传统治理为什么一直能够工作
一家成熟企业通常拥有大量制度:采购金额超过多少需要审批,财务付款需要怎样复核,生产系统什么时候可以变更,员工可以访问哪些数据,出现异常之后由谁负责。这些制度构成了企业的秩序感,但它们有一个常被忽略的特征——它们并不直接阻止现实发生。
公司规定“未经审批不得付款”,并不意味着银行账户在技术上无法付款;制度写明“生产数据库不得随意修改”,也不意味着拥有管理员权限的人物理上做不到。传统治理真正依靠的,是一整套围绕人展开的组织结构:制度规定行为,人理解制度,流程检查行为,管理者承担责任,审计在事后发现偏差。制度本身是软的,让它变硬的是人的判断、人的顾虑和人的责任。
这套体系能够长期运行,还有一个更少被讨论的原因:人做事情本身很慢。
一名员工要采购一批设备,需要填写申请、寻找供应商、提交审批、通知财务,再由采购执行;即便其中某个环节判断错误,整个过程仍然可能延续几个小时甚至几天。一个财务人员一天能够处理的付款数量有限,一名运维工程师能够执行的生产变更有限,一位管理者能够作出的重大决定同样有限。这种缓慢在效率上是成本,在治理上却是一种被无意间赠予的余量。主管可能在中途发现不对,财务可能提出疑问,同事可能打一个电话确认,风控可能暂停交易;即使事情已经开始,管理层往往仍有时间介入。
因此,传统企业治理并不只建立在 Policy 之上,它还隐含地依赖着另一个条件:
执行速度不能远远超过组织发现问题和纠正问题的速度。
这个条件过去太过普通,以至于我们几乎从未把它当成治理体系的一部分。它不写在任何制度文件里,却支撑着所有制度文件。AI Agent 第一次让它不再理所当然。
二、Agent 改变的首先不是智能,而是时间
关于 AI Agent,公共讨论几乎全部集中在智能维度:它能够理解自然语言,能够拆解任务,能够选择工具,能够连续完成多个步骤。这些确实是能力的跃迁,但从组织治理的角度看,Agent 带来的另一个变化可能更加根本——它压缩了从判断到执行之间的时间。
过去一名员工接到“处理这批供应商账款”的任务,需要打开系统、核对数据、逐笔操作,工作节奏天然被人的注意力和体力切分成若干段落;一个 Agent 则可以一次读取整批发票,核验供应商信息,生成支付请求,然后连续调用接口。过去一个团队几个小时完成的事情,可能被压缩到几分钟甚至几十秒。
效率因此提高,这正是企业引入 Agent 的理由。但同一件事情还有另一面:人的错误过去也是以人的速度传播的,而 Agent 的错误开始以机器的速度传播。当一个人判断错一笔付款,组织需要处理的是一笔错误;当一个 Agent 对同一类任务形成系统性误判,它可能在任何人察觉之前已经重复执行几十次、几百次。上一节提到的那段由人自然填补的缓冲时间,在这里被直接抽走。
真正发生变化的并不是“AI 比人更容易犯错”。事实上,在许多重复性判断上,未来的 AI 完全可能比大量员工更稳定、更少疲劳、更不情绪化。问题在于另一件事:
相同的一次判断偏差,经过不同的执行速度之后,会产生完全不同的治理后果。
这意味着 AI Agent 给企业提出的管理问题,并不只是如何提高模型准确率,而是如何面对一个越来越明显的不对称:机器执行越来越快,组织纠错仍然按照人的速度运行。而当速度成为问题的核心,我们就必须重新审视那些原本被认为足够可靠的规则本身。
三、Policy 最大的问题,是它自己不会阻止任何事情
过去几年,AI Governance 已经形成了相当完整的方法论。企业制定 AI 使用规范,划分风险等级,要求模型评估,建立伦理委员会,记录数据来源,规定哪些业务允许使用 AI。这些工作重要且必要,它们让组织第一次对智能系统有了共同语言。
但它们有一个共同特点:它们主要规定系统应该怎样运行。而“应该”与“实际会不会发生”之间,始终存在距离。
这一点其实和传统企业制度完全一样。员工手册写着“不得泄露客户信息”,并不能物理阻止一个拥有数据访问权的人复制文件;财务制度写着“大额付款必须双人复核”,也只有当支付流程真正要求第二个人参与时,这条规定才从文字变成控制。于是 Policy 始终可能处在两种性质完全不同的状态:一种是“组织希望你这样做”,另一种是“如果不满足这条规则,系统就不会继续执行”。
在人类组织里,我们长期容忍第一种状态,因为它足够用——人会承担责任,管理者可以监督,违规者可以追责,而且执行速度相对有限,第一种状态往往有时间在事情失控前退回到第二种。Agent 改变的正是这个条件。一个 Agent 不会因为员工手册写着“高风险操作需要谨慎”就自发放慢;如果它持有合法 Token、可用 API 和足够权限,Policy 与 Execution 之间可能只剩下一次函数调用的距离。
于是一个过去主要属于管理学的问题,开始变成工程问题:
一条治理规则,究竟只是告诉 Agent 应该怎么做,还是能够决定某个动作是否真的允许发生?
这可能正是 AI Governance 下一阶段最大的变化。它要求我们重新追问的,不再只是规则的内容,还有规则被安放的位置。
四、当纠错速度跟不上执行速度,治理必须向前移动
传统治理通常分布在执行的前后两端。执行之前有制度、培训、审批和权限配置;执行之后有日志、审计、调查和责任追究。中间真正发生动作的那一瞬间,多数系统反而默认放行:既然身份和权限在前面已经校验通过,动作就可以继续。
对人的操作而言,这种结构长期基本可用,因为前后两端之间的时间足够长,长到足以让人插进来。但面对自主 Agent,这段间隙开始暴露。如果一个 Agent 在十秒钟内能够连续完成几百个动作,那么五分钟后的报警已经不是实时控制,第二天的审计当然能够解释发生了什么,却无法收回那些动作已经产生的结果。审计回答的是“为什么会这样”,而组织真正需要的是“不要变成这样”。
因此治理必须从执行之前和执行之后,进一步进入执行过程之中。
这也是 BCG 所提出的 Enterprise AI Control Plane 中最值得注意的部分。它并不是再增加一个管理后台,而是主张身份认证、Agent 与工具注册、可见性以及 runtime policy enforcement 统一进入 Agent 实际运行的环境——在 BCG 的描述中,未注册的 Agent 试图调用 API 或 MCP 服务器时会在调用发生的那一刻被拦下,而不是事后被记录。BCG 也提醒,这一层如果脱离 AI Ops、DevOps 和产品生命周期而单独存在,就会沦为 shelfware。近来其他企业安全讨论也在朝类似方向移动:治理不能只是一套合规文件,而需要在真实运行环境中持续产生与上下文相关的控制。
这里真正改变的,是治理发生的位置。过去我们更多在问“规则是什么”,未来越来越需要继续问“规则在哪里真正产生约束”。
五、治理进入执行,不等于给 Agent 增加更多审批
这里很容易出现一个误解。既然 Agent 执行太快,那是不是在每个动作之前都让人重新点一次确认就好?
如果这样做,Agent 最重要的价值——自主完成任务——也就被重新取消了。企业花力气引入自主软件,却用人工节拍把它拖回人的速度,这不是治理,只是把效率收益退回去。
真正需要进入执行的并不是更多人工审批,而是把原本隐含在人类判断里的边界,翻译成系统可以实时判断的条件。过去那些由老练的财务人员凭经验停下来的瞬间——收款账户什么时候变过、这笔金额和批文对不对得上、这个任务是不是早就该结束了——本质上都是可以被表达的条件,只是过去从未被要求写清楚。
因此,一项支付任务完全可以自动执行,但系统仍然可以在真正付出去之前逐条检查:对象是否仍是原来的供应商,金额是否仍在批准范围内,账户状态是否正常,任务是否仍然有效,相关证据是否完整,以及有没有任何一条独立规则明确禁止当前动作。满足条件,自动继续;条件不满足,立即停止。这种最终拒绝的能力,才是治理真正落到执行层的标志——它不需要人时刻在场,却保证在关键处一定有人定下的边界在场。
这和传统治理有一个非常重要的区别。传统 Policy 更像是在描述“组织希望什么发生”,执行控制则进一步回答“现实改变之前,什么条件必须成立”。
因此,Execution Governance 与 Execution Control 并不是同一件事情。前者负责定义规则、责任和边界,后者负责让其中那些真正重要的边界在执行路径上不可被轻易绕过。可以把它理解成:
Governance 决定什么是正确的,Control 决定错误的东西能不能继续发生。
两者缺一不可。而当后者开始成型,治理这个词本身的含义也会随之改变。
六、AI Governance 最终可能成为一种实时能力
过去企业谈治理,联想到的是制度、委员会、审计、风险报告和责任体系。这些东西不会消失,它们仍然承担着定义价值取向和分配责任的功能。但 Agent 可能迫使我们为“治理”这个词补上一种新的能力。
当智能只负责提供建议时,治理主要约束人如何使用它;当智能开始直接执行,治理就必须获得一种此前不需要的性质:在现实改变之前产生作用。
这也是为什么 Control Plane、Runtime Authorization、Runtime Policy Enforcement 这些概念正在越来越频繁地出现。它们背后不一定会收敛成同一种技术架构,但共同反映了一个变化:企业开始意识到,面对能够自主行动的软件,仅仅知道它做了什么已经不够,仅仅规定它应该做什么也不够。治理必须越来越接近“事情发生的那一刻”。
未来真正成熟的 AI 企业,也许不会因为写下了更多 Policy 而显得治理更好,而会因为它能够把不同风险对应到不同层级:普通任务高度自动化,重要动作具备清晰边界,高风险执行能够被实时判断,异常状态可以在机器速度下被停止扩散。
这不意味着治理会变得更加保守,恰恰相反。只有当组织真正拥有运行时边界,它才可能放心地把更大的自主空间交给 Agent,因为它不再需要在“完全相信 AI”和“什么都让人审批”之间二选一。信任不再依附于某一个具体对象是否可靠,而是由结构本身承载——这也是企业治理一直以来的成熟路径,从依赖可信的人,走向依赖可信的结构。
过去企业依靠制度告诉人什么应该做,再用审计和责任体系纠正偏差。这套机制建立在人类速度之上,因此长期有效。AI Agent 改变的,正是这个最不起眼也最基础的条件。当一次判断可以在几秒钟里变成几百次真实操作,当执行速度第一次系统性地超过组织发现问题和纠正问题的速度,Policy 与 Execution 之间那段过去由人自然填补的距离,就不能继续保持空白。
所以,AI Governance 下一阶段真正重要的变化,也许不是制定更多规则,而是让最关键的规则拥有抵达执行层的能力。这也是 Agent 时代企业治理真正需要完成的那次转变:从管理智能,走向管理智能能够产生的现实后果。说到底,需要被约束的从来不是某一个具体的执行者,而是那种不受约束地把判断变成现实的权力。
当执行速度超过组织的纠错速度,治理就不能只存在于执行之前和执行之后。它必须进入执行本身。
更多推荐


所有评论(0)