信任的锚点：人工智能治理可以走向“标准化”吗？丨两说

2026世界人工智能大会的展厅里，人工智能灵巧手正在完成一系列精细的操作。奥姆卡・乔希（Omkar Joshi）站在一旁忍不住发出赞叹。这位英国标准协会（BSI）全球AI及数字化解决方案业务董事总经理后来回想说，这是他此行最深刻的印象之一。“中国在推动人工智能落地应用方面走得非常快，尤其是工业人工智能和自动化技术，全面提升了整个供应链的效率。”

当他从展会现场走进节目演播室，谈论起人工智能治理前景时，语气却变得审慎起来。他的判断：“人工智能落地面临的最大瓶颈，不是算法，也不是算力，而是信任。”这句话成了本次《两说》对话的起点。

以人工智能为代表的数字技术正在重塑全球经济社会格局，各个地区和国家都在加速探索与之适配的治理路径和治理模式，标准化由此成为人工智能治理当中绕不开的关键议题。那么，标准化可以担当AI时代信任的锚点吗？如何让标准从纸面走向现实？标准化如何塑造人与人工智能的关系？2026世界人工智能大会期间，第一财经记者葛唯尔与奥姆卡・乔希围绕这些话题展开了深入探讨。

治理之问——为什么标准化是AI时代信任的锚点？

乔希的判断并非空穴来风。英国标准协会的调查显示，65%的企业管理者认可人工智能带来增长、创新、业务拓展等实际价值；与此同时，67%的企业管理者认为，人工智能所用数据如果能够更加透明，将会更加信任人工智能工具。

“信任本身包含很多维度，”乔希解释说，数据如何参与决策？算法是否存在系统性偏差？模型的输出是否可以被追溯和解释？这些问题没有一个可以被轻易绕过。“只有当这些方面都得到妥善处理，信任才会真正建立。”

英国标准协会的另一项调查显示，超过六成的企业计划加强人工智能治理，但只有四分之一的企业真正制定了正式的治理方案。这意味着在人工智能治理这件事上，很多企业仍停留在“想”的阶段。这正好反映了人工智能当下面临的信任困境。对此，乔希表示，从调查结果看到的趋势判断，情况正在变好。未来，将会有更多资金投入人工智能领域，也会涌现出越来越多的应用场景。

过多的治理要求是否会扼杀创新？面对这一担忧，乔希给出了自己的观点：“治理不是创新的刹车，而是方向盘。”他认为，企业完全可以在一套原则明确、符合最佳实践的标准框架下快速创新。这是标准化在人工智能治理中所扮演的角色，也是他所在的英国标准协会一直在全球积极推动的方向。

乔希强调，标准的本质是“各方在充分讨论、形成共识之后，总结出的一套最佳实践”。它比法规更具灵活性，也比纯粹的自律更具约束力。

落地之路——如何让标准从纸面走向现实？

2023年12月，国际标准化组织（ISO）和国际电工委员会（IEC）联合发布了全球首个人工智能管理体系标准ISO/IEC 42001。英国标准协会是该标准的参与起草方和认证机构。

作为英国标准协会全球AI及数字化解决方案业务的负责人，乔希深知该标准的落地还有很长的路要走。据他的统计，以 ISO/IEC 27001为代表的全球网络安全类认证已累计发出 超10万张证书；而ISO/IEC 42001目前全球获证量仅有五六百张。

“人工智能治理尚处于早期” ，在他看来，标准落地最大的瓶颈是企业内部需要形成共治。“企业需要真正理解治理到底意味着什么，并让组织各个层级都形成这种认识。切忌仅将其视作一项合规任务。组织中的每个人都需要明白，人工智能的应用必须是负责任的。”

这段话道出了人工智能治理与传统企业管理的一大区别。传统的合规管理通常是垂直的、部门化的。比如法务部门负责法律风险，IT部门负责数据安全，业务部门负责业绩指标。但人工智能治理是横向的、贯穿式的。它涉及算法的开发、数据的采集、模型的部署、输出的审核、用户反馈的闭环等等，任何一个环节的疏忽，都可能导致整个系统的信任崩塌。

乔希认为，ISO/IEC 42001覆盖了人工智能的完整生命周期，从最初的构想到最终的部署和使用，它的要求比许多传统的网络安全标准更为深入。“这意味着企业需要对整个过程进行端到端的管控。”

在乔希看来，企业可先盘点全部人工智能应用作为起步动作，全面掌握它会如何使用，以及可能带来哪些风险。对于大多数企业而言，这是一项艰巨的任务。但它也是一项一旦完成就能带来显著回报的投资。在乔希的观察中，那些率先建立完善治理体系的企业，尤其是中小企业，往往能够将其转化为实实在在的竞争优势。

“当你去竞标一个大项目时，处在供应链顶端的科技公司现在往往会要求供应商达到这些标准。”他说，“小企业把这看作一个机会，而不只是为了在合规清单上打个勾。”

乔希指出，人工智能治理不能仅当作合规任务，应上升为企业核心战略，提前设立安全护栏，企业还能借此打造差异化竞争优势。

未来之眺——标准化如何塑造人与人工智能的关系？

对话中，当我们把视野从单个企业扩展到全球格局时，人工智能治理的复杂性又增加了一个维度。

目前，全球人工智能治理呈现出明显的碎片化特征。欧盟推行严格的立法监管，以《人工智能法案》为代表；美国更强调行业自律，各州自行制定相关法律；中国则采取分级分类的监管思路。三种模式各有侧重。

“大家都在按照自己的方式推进，彼此之间还缺乏足够的协调。”乔希坦言，“我们希望未来能看到更多国际合作。”

乔希认为，这种碎片化的格局，恰恰凸显了国际标准的独特价值。标准在法律监管和行业自律之间扮演着关键的桥梁角色。“在欧洲，很多标准会被法律法规引用，并成为合格评定的依据。标准会先对良好的治理方式作出界定，为监管提供基础。很多时候，标准中确立的要求随后还会被进一步纳入法律法规。”换句话说，标准提供了一个各方可以通过协商达成共识的平台，而不必一开始就把所有要求上升到法律的强制层面。

随着人工智能自主决策能力的不断增强，人类应该在什么时候介入？面对这个问题，乔希的回答非常干脆：“只要人认为有必要，就应该由人来判断。这正是人类监督的意义所在。”

他强调，ISO/IEC 42001和各类治理框架都明确规定了人类监督的要求，“我们在对企业进行审核时，会重点看人类监督究竟是否真实有效，还是仅仅在表格上打个勾，表示已经有人审核过。”乔希说，“真正的人类监督，意味着人有权推翻人工智能作出的决定，能够解释这些决定，也能够对其质疑、主动进行监控，并在必要时予以纠正。”

当被问到如何看待人工智能治理的前景时，乔希的回答带着一种审慎的乐观。“我相当有信心，三到五年内，我们会达到一个相当不错的状态。随着时间推移，人工智能失控的情况，以及一些备受关注的人工智能应用给人们带来问题的事件，应该会逐渐减少。”

但他同时也强调，这种前景不会自动到来。“我们需要找到一种方式，让每一个与人工智能有关的人都认识到，始终做正确的事，是自己应当承担的道德责任。”

更多精彩内容

敬请关注

东方卫视每周三 22:30

第一财经每周六 22:00