给会干活的软件立规矩
2026年11月20日

人类社会的秩序,是从发证件开始的。出生有出生证明,上班有工牌,开车有驾照,开店有执照。这些纸片本身没有力量,力量来自它们背后那套被共同承认的规则:你是谁、你能做什么、你做过什么,都查得到。

软件世界正在经历同一件事。

过去几十年,软件是工具。工具不会自己拿主意,人点什么它做什么,出了问题查日志就知道是谁点的。现在不一样了。智能体会自己规划步骤、挑选工具、调用系统,甚至在没有明确指令时做出判断。它像一个新入职的同事,能干、勤快、但你不完全知道它在想什么。

于是一个老问题回来了:怎么让一个有能力的东西,待在被允许的范围内?

没有规矩的能干,是负担

企业里见过这样的场面。某个部门上了个智能体,为了图省事,接的是公用账号。它能查客户资料、能看合同金额、能发通知。上线三个月效果不错,直到有天安全部门做审计,问了一句话:上个月有一条敏感数据被导出,是谁干的?

没人答得上来。

这不是技术事故,是秩序缺位。能力跑在了规矩前面,剩下的只是时间问题。

规矩要长在系统里,不能贴在墙上

用友在上个月的一场新品体验会上,讲了一套给智能体立规矩的做法。六个方面:观测、运营、上下文、评估、运维、安全。听着像IT术语,翻成人话其实很朴素。

观测是"看得见"——它做了什么、花了多久、用了多少,都有记录,而且能从部门一路查到那一条具体记录。

运营是"管得着"——每个智能体有身份、有归属、有上岗和退役,不是建完就散落各处。

上下文是"说得清"——企业的术语、口径、规则有明确来源,AI 不会拿着过期的制度当现行规定。

评估是"判得准"——好不好不靠感觉,有可复验的标准。

运维是"稳得住",安全是"守得牢"——边界、权限、凭证,一样样落到实处。

有意思的是,这些机制没有一项是"限制能力"的。它们做的是把模糊地带变清楚:边界清楚,才敢放权;过程清楚,才敢托付;质量清楚,才敢推广。

信任是算出来的

人们常以为信任是感情,其实在企业里,信任是算术。你交给我一件事,我要能算清楚三笔账:最坏会怎样、出问题查得到吗、下次还会不会犯。三笔账算清了,我才敢把更大的事交给你。

智能体也在这套算术里。它能干多少活,不取决于模型多聪明,取决于企业能不能算清这三笔账。所以那些真正把 AI 用起来的企业,往往不是模型选得最好的,而是最早把账本、记录、标准建起来的。

技术跑得快的时候,制度常常显得慢。但慢的那部分,恰恰决定了快的那部分能跑多远。