专访何积丰院士：达成可信的人工智能，最重要的支点在人

数字时代下，人工智能进入加速成长期，场景的赋能所带来的价值逐步深入，如何坚持技术向善，确保人工智能的安全、可信和公平被广泛讨论，国际社会也纷纷呼吁加强人工智能治理，发展安全可信、负责任的人工智能。

日前，在2021世界人工智能大会期间，中国科学院院士、工信部新一代人工智能标准与应用重点实验室主任委员何积丰在接受第一财经记者专访时表示，当下社会已经认识到可信的重要性，并试图达成数据可信和技术可信。

“然而，我们现在还缺少对信用缺陷的度量标准，没有一个完整的度量体系和验证技术。”他表示，下一步需要做的是建立系统性改善平台。此外，人工智能在提升产品的品质后，如何解决成本问题是目前最大的挑战之一，行业内依旧在寻求与调整高成本与市场接受度之间的平衡。

数据和技术都要可信

2017年，在S36次香山科学会议中，何积丰在世界范围内首次提出可信人工智能的概念。

所谓可信人工智能，主要包含三个要素——人、信息、物理。而所谓的安全，也包括数据安全、技术安全和系统安全。

何积丰表示，判断是否可信的先决条件之一，是设立关于可信的度量标准。比如，要求数据本身真实可信。

他再三强调数字真实、准确、可信的重要性。据他观察，注册制下信披真实性审核成为难点，涉及多来源、多场景和自证等挑战，交易所人力审核时间成本过高。因此，信息披露的真实性至关重要。

“虽然通过贝叶斯因果图、统计推理等技术可以核对不同、甚至矛盾的说法，给出真实性评估，但如果数据本身不真诚，再好的模型也加工不出好产品。”

显然，相比于去依赖弱相关的假设，允许更多的有效数据进行“自我表达”，模型的正确率才会越高。因此，无论是通过模型训练获得某个结论，或是通过模型迭代进行矫正，数据正确永远是第一条。

数据可信之外是技术可信和系统可信。当人工智能程序或产品发生错误时，对错误或会发生的结果具备可解释性。在其特性或参数发生摄动时，相关系统和技术依旧具备品质指标保持不变的性能，即鲁棒性等。

何积丰直言，对有海量用户的软件，证明技术的安全可信很有必要。“如果零部件的安全性没有保证，信息安全就做不到，现在是把可信软件理论、人工智能与各行各业结合的好时机。”

他进一步表示，不同的产品，或许对技术精准性和鲁棒性的要求有所不同，但用户自下而上的反馈是很直接的，软性指标的标准也可以通过收集反馈初步成型。

“我们已经对传统的系统产品设定了硬性指标，未来希望可以在可信、可靠方面设置软性指标体系。我们可以允许犯错，但需要知道错误在哪一点上，信息有追溯性才可以避免二次出错。”

人是最重要的支点

何积丰认为，只有上述几大方面都可信，才能形成可信闭环。但值得注意的是，所有技术都以人为中心，所有虚拟世界的服务最终也都落到人的身上。取之于人，用之于人。因此，所有形成可信的支点始终是人，最大的变量也正是人。

事实上，为践行人工智能的可信与向善，欧盟、G20提出了各自的人工智能伦理原则，将其作为规范人工智能的基本框架，为推动人工智能健康发展提供了原则性的指导。

根据中国信息通信研究院发布的《人工智能治理白皮书》，谷歌、微软、IBM、腾讯、百度等科技公司纷纷提出企业层面的人工智能价值观，设立内部的管理机构，践行人工智能伦理原则。微软将人工智能伦理审查纳入即将发布产品的标准审核清单中；谷歌则将人工智能治理原则纳入到开发工作，实施审核以及商业协议中，组织多个核心团队来审查隐私保护、歧视等问题，并按产品领域进行评估。

“我们应该清楚，人工智能是给你增加更加多的助手和秘书，绝对不可能代替人的大脑，也不适应人类社会的规则。”他认为，建设可信的人机物融合系统（Cyber-Physical Human System, CPHS）是必行之路。

所谓人机物融合系统，指的是人、计算单元和物理对象在网络环境中高度集成交互的新型智能复杂系统。通过计算、通信与物理系统的一体化设计，以使系统更加可靠和高效。人机环境中许多个闭环系统常常是并行或嵌套的，并且特定情境下，这些闭环系统的不同反馈环节信息又往往交叉融合在一起。

通过3C技术[计算（Computation）、通信（Communication）和控制（Control）]的有机融合与深度协作，可以实现大型工程系统的实时感知、动态控制和信息服务。比如，传统的电网、交通系统、工控系统等，就正在逐渐演变为人机物融合系统，如智能电网、智能交通网络、工业控制网络等。

设定了硬性标准和软性标准后，从监管层面又该如何保证可信？

由于人工智能治理的重要特征之一是治理主体的多元化、治理手段的多样化，需要打造多元主体参与、多措并举、协同共治的治理机制。

何积丰指出，首先要打造适合科技监管的人员队伍，实现专业化人才供给的长效机制，并从传统的政府主导的权威式自上而下的单向管理，走向多元主体协同共治的治理新范式。

除此之外，考虑到人工智能正处于快速发展阶段，还可用相对“颗粒”的规则进行全程规范，触发“红线”时再配以敏捷的手段。

“规则太细可能会限制发展，事实上我们也很难通过细节规则把所有问题都解决。因此，在相对粗颗粒规则的基础上，设置明确的红线，配合事后敏捷、有效的处理手段，两相配合。”何积丰说。