监管未至，企业自补：AI治理正从模型层沉入机械臂

监管的靴子还没落地，企业已经开始自己缝鞋了

CompTIA 在 10 月 15 日发布了一份研究，结论有点反直觉：企业 AI 的瓶颈已经不是“能不能用”，而是“敢不敢让它一直跑下去”。同一周，宾夕法尼亚州议会首次公开审议两项前沿 AI 安全法案——HB 2800《人工智能风险预防法案》和 HB 2829，针对近期多起失控 AI 事件，为最大的前沿模型开发者建立风险预防与透明框架，并明文禁止部署存在灾难性风险的前沿模型。再往前几天，深圳一个做仓储机器人的朋友在电话里跟我抱怨，说他们给客户交付的自动分拣系统，验收卡在了“安全认证”这一关，德国那边来的审核员要求他们证明机械臂在断电后 0.3 秒内能进入安全姿态，而他们连这个数据的采集方案都没设计过。

三件事，一个方向。监管还没正式落地，企业已经开始自己动手补课了。

从前沿模型到仓库里的机械臂，治理正在“往下沉”

宾州这份法案值得细看的地方，不在于它管了什么，而在于它管的是谁。HB 2800 把矛头对准“最大前沿模型开发者”——不是所有用 AI 的公司，是造最猛那几个模型的。逻辑很直白：灾难性风险不会来自你公司用 AI 写周报，会来自某个能力溢出、没人拦得住的模型被放出去。法案要求这类开发者建立风险预防框架、保持透明度，并禁止部署“存在灾难性风险”的模型。

坦白说，我一开始觉得这类州级立法象征意义大于实际。联邦层面没动，一个州能管住 OpenAI 或者 Anthropic？后来我意识到自己想岔了。州立法的真正杀伤力不在罚款，在于它定义了“合规”这个词的标准。 一旦宾州把“灾难性风险评估”写进法律文本，所有想跟州政府做生意、想在州内部署的企业，都得按这套标准来自证清白。标准一旦有了第一个版本，扩散是迟早的事。

更有意思的是 TÜV SÜD 和埃森哲的动作。这家德国老牌认证机构拉上埃森哲和 NVIDIA，在 GTC 柏林上展示了一套“物理 AI 安全套件”，专门给工厂和仓库里的自动化设备做独立认证。你没看错——治理的触角已经从聊天机器人伸到了车间里。我那个做仓储机器人的朋友卡住的，正是这套东西的前身。

这里有个容易被忽略的转折。过去两年大家聊 AI 治理，画面感是“给模型立规矩”：红队测试、对齐研究、输出过滤。但 TÜV SÜD 干的事完全是另一个路数——它不管模型内部怎么想，它管的是一个装了 AI 的物理实体，在现实世界里出问题时，你能不能证明自己提前想过。 认证的逻辑是“过程可审计”，不是“结果一定好”。这跟传统工业安全一脉相承，只不过审核对象从压力容器变成了会自己决策的机械臂。

Splunk 那份覆盖 10 国 2050 名 IT 运维人员的调查，给这个转向补了一刀数据。过半企业无法准确控制 AI 智能体的成本，近九成把 AI 监控列为优先事项，但真正能衡量智能体质量的少之又少。 部署速度远超监控能力——这句话翻译一下就是：车已经开上高速了，仪表盘还没装好。

安全预算不是买保险，是买速度

CompTIA 那份研究里有个判断我特别认同：企业 AI 的关注点正从“采用”转向“执行风险”。但我想往前推一步——大多数公司把安全投入当成“合规成本”，这笔账算错了。

我在去年跟一个做跨境电商 SaaS 的团队聊过，他们上线 AI 客服智能体三个月后，发现一个诡异的现象：智能体处理退款请求的准确率是 94%，看起来不错，但那 6% 的错误里有一半是把该退的判成了不该退，客户直接投诉到平台。他们紧急加了一套人工复核流程，成本上去了，但退款纠纷率降了七成，客户续费率反而涨了。那个技术负责人跟我说了句话我记到现在：“我们以为安全是刹车的钱，后来发现是油门的钱。”

这就是“安全即增长”的真实含义。 不是道德正确，是算账算出来的：没有监控和治理的智能体，你根本不敢让它碰核心业务；不敢碰核心业务，AI 的价值就永远停在“写写文案、答答常见问题”这一层。Splunk 的数据佐证了这个逻辑——超四分之三受访者说 AI 监控促进了与安全团队的协作，这个“协作”背后是信任，信任背后是敢把更重要的活儿交给机器。

当然，说这话的我，上个月还在手动核对一份 AI 生成的报表，因为我不放心。你看，连写文章劝别人信任治理的人，自己都没完全做到。

但方向是清楚的。宾州立法、TÜV 认证、CompTIA 和 Splunk 的调查，指向同一个判断：AI 跑得比监管快，这已经是个既定事实，争论“该不该管”没有意义了。 真正在发生的是，企业开始自己给自己上规矩——不是因为怕罚，是因为不上规矩就跑不快。

谁先学会“自证清白”，谁先拿到下一张订单

回到我那个做仓储机器人的朋友。他后来想了个土办法：给每台机械臂加了一套独立的传感器日志系统，断电测试做不了 0.3 秒，就先做到 1 秒，然后把测试过程完整录下来交给审核方看。认证没当场过，但审核员说“方向对了”。

这事让我想了挺久。监管的靴子还没落地，但市场已经用脚投票了——客户要的不是“你的 AI 很聪明”，是“你的 AI 出问题时我能找到人、找到记录、找到原因”。 谁能先拿出这套自证清白的能力，谁就先拿到下一张订单。

宾州的法案会不会通过、什么时候通过，说实话我没那么关心。我关心的是，当“可审计”“可追溯”“可干预”变成采购清单上的硬指标时，那些还没开始补课的公司，连投标的资格都没有。

这不是合规问题。这是入场券问题。