企业里 AI 的应用轨迹高度相似:先是几个人试用了聊天工具,觉得不错;然后某个部门接入了智能体,做知识问答;接着业务线开始提需求,财务要审单、采购要比价、客服要自动回复。一年下来,智能体从 3 个变成 30 个,从 1 个部门扩散到 8 个部门。
问题也在这时候集中出现。IT 部门说不清一共有多少智能体在跑,业务部门说不清哪个还在用,安全部门发现有几个能用离职员工的账号访问数据,财务部门看不懂每月多出来的模型调用账单。管理者最想问的一句话是:这些 AI 到底干了什么、有没有干对。
三个典型现象,指向同一个缺口
第一个现象是"不知道谁在行动"。智能体替人查数据、下单据、发通知,如果它借用的是某个共用账号,事后想追责就只能不了了之。企业里人员有工号、系统有账号、设备有资产编号,智能体却常常是"裸奔"状态。
第二个现象是"不知道哪一步错了"。智能体给出一份错误的采购建议,工程师查半天,发现是它调用库存接口时传错了仓号。但这个过程是怎么发生的、有没有经过校验环节、当时上下文里有什么,全都没有记录。
第三个现象是"不知道值不值得留"。三十个智能体里,有的每天被调用几百次,有的上线两个月没人用;有的单次成本几分钱,有的动辄几块。没有数据支撑,推广与下线全靠感觉。
这三个现象分别指向身份、观测、成本——它们不属于任何一个智能体的功能范畴,而是所有智能体共同的底座需求。这就是治理平台的位置。
六大治理域,管的是同一件事的不同侧面
用友在前不久举办的 YonAIG 企业AI治理与运营平台新品体验会上,给出的框架覆盖六块:观测、运营、上下文、评估、运维、安全。
观测管"看清"。以单次请求的调用树为基础,展开执行步骤、耗时、错误与消耗;往上聚合到会话与用户维度,形成从部门到单条记录的下钻链路。
运营管"账本"。智能体的创建、身份配置、授权、上岗、退役构成一条管理链路;数智分身、数智员工、数智团队纳入统一目录;能力中心沉淀智能体、技能、MCP 等资产,支持分级管理与共享复用。运营看板从资产数量、员工使用、部门渗透、消耗成本几个维度看应用情况,哪些值得推广、哪些应当调整,有依据。
上下文管"依据"。记忆晋升、时鲜治理、语义冲突仲裁、上下文源管理四组机制,解决企业知识分层、过期、口径打架的问题。
评估管"质量"。在线评测按规则圈选观测数据,用大模型或代码评测器异步判定,评分关联回观测记录,用于分析、报告与告警,也可在调整配置后复验。
运维管"稳定"。会话状态、执行编排、沙箱资源、模型运行纳入运维范围,配合日志检索、运行监控与告警,支撑异常处置。
安全管"边界"。统一身份认证、角色权限、文件访问控制、技能安全审查、密钥凭证保护、数据权限与脱敏加密,再加上全链路日志,把权限要求落到每一次访问和调用上。
治理不是给AI上枷锁
很多业务负责人一听"治理"就皱眉,觉得是合规部门加的限制。实际做过规模化落地的团队会有相反的感受:治理是放开手脚的前提。
原因很朴素。没有身份与权限边界,安全部门不敢批核心系统接入;没有观测与评测,业务部门不敢把真事交给智能体;没有成本账本,财务不敢批下一年的预算。三道门全关着,智能体就只能在外围做做问答。反过来,当边界清楚、过程可查、质量可判、成本可控,企业才敢把审批、对账、履约这类真事交出去。
用友网络数据智能解决方案部总经理王宏业在会上把这件事概括为三个词:管得住、用得好、可持续。管得住是身份、权限、行为的约束;用得好是上下文、能力资产、运营分析的支撑;可持续是质量评估、成本核算、持续改进的机制。三个词拆开看都是管理动作,合起来是一件事:让企业AI 从"能用"变成"敢用、值得一直用"。
一句实在话
智能体的能力上限由模型决定,但它在企业里能走多远,由治理决定。今天很多企业的 AI 建设卡在"试点很成功、推广很困难",根子不在技术,而在于没有一套让管理者放心的运行秩序。治理平台不是锦上添花的功能模块,它是规模化前的必需品。