企业AI从"能用"到"敢用",中间差的是治理
2026年11月20日

企业在 AI 上最容易做的决定是试用,最难做的决定是推广。试用不担责任,一个部门、几个场景、几十个用户,出了问题随手关掉。推广要担责任——要把审批、对账、履约这些真事交出去,一旦出错就是业务事故。这中间隔着一道墙,墙上的字写着"不放心"。

三道不放心,各有一处缺口

第一道是权限。智能体能读到什么数据、能调用哪些系统、能代表谁行动,如果没有清晰的边界,安全部门不敢签字。现实中的常见做法是给一个大权限账号让它跑起来——短期省事,长期留隐患。

第二道是过程。智能体做一件事可能经过十几个步骤,调用五六个系统。做对了没人知道它怎么做的,做错了也说不清哪一步出的问题。管理者要的不是一份漂亮的结果报告,而是能回溯的执行记录。

第三道是质量。任务返回了"已完成",但完成得对不对?有没有一种固定的判断方法,下次还能用同样的标准复验?如果全靠用户投诉来发现问题,那智能体永远只能做边缘业务。

这三道墙,靠升级模型翻不过去。模型再强,也不能自己给自己发权限、自己记录自己的行为、自己评判自己的质量。它们需要的是一层共用的底座。

治理平台做的三件事

11 月 13 日,用友举办了 YonAIG 企业AI治理与运营平台新品体验会。会上给出的框架覆盖六大治理域:观测、运营、上下文、评估、运维、安全。摊开看,正好对应上面三道墙。

权限这道墙,由安全治理域接。统一身份认证解决"它是谁",角色权限解决"它能做什么",文件访问控制与数据权限解决"它能看什么",技能安全审查解决"它能装什么",密钥凭证保护与数据脱敏加密解决"它会不会泄露"。这些机制加上全链路日志,把权限要求落到每一次访问和每一次调用上,而不是停留在制度文件里。

过程这道墙,由观测与运维接。观测以单次请求的调用树为单位,展开执行步骤、耗时、错误与消耗;往上聚合到会话与用户维度。运维把会话状态、执行编排、沙箱资源、模型运行纳入管控,配合日志检索与告警处置。管理者可以从部门数据一路下钻到那一条具体的工具调用记录——这就是"看得见"的具体含义。

质量这道墙,由评估治理域接。在线评测按过滤条件和采样规则圈选观测数据,用大模型评测器或代码评测器异步判定,评分关联回观测记录。调完配置后可以用同一批数据复验,改进有没有效不再靠感觉。

还有一块容易被忽略:上下文

企业问 AI"上月费用为什么超支",AI 要答对,需要知道这家企业的费用口径、组织层级、预算基线。这些知识不在模型里,在企业的系统与文档里。但企业知识有三个麻烦:分层(制度、指标、现场数据稳定度不同)、过期(新旧版本同时存在)、冲突(同一词在不同部门含义不同)。

用友的做法是记忆晋升、时鲜治理、语义冲突仲裁、上下文源管理四组机制:让不同稳定度的内容待在不同层,让过期版本自动降级,让口径冲突有仲裁规则,让上下文供给统一登记可追溯。这些机制听起来琐碎,却决定了 AI 答得对不对。

一句话总结

用友网络数据智能解决方案部总经理王宏业在会上把需求概括为"管得住、用得好、可持续"。这九个字翻译成业务语言就是:让管理者敢签字。企业AI 的竞争,上半场比谁的智能体更聪明,下半场比谁能让智能体真正进入核心流程。而进入核心流程的门票,是治理。