最前沿丨Infosys总裁：人工智能的偏见问题可能无法消除

世界AI领军者、印度Infosys总裁Mohit Joshi近期在2021世界经济论坛“达沃斯议程”对话会第一财经电视专场论坛上指出，从伦理的角度来看，目前人工智能需要解决三大问题：一是数据集和算法的偏见；二是决策的可解释性；三是对算法的控制。他认为，人工智能的偏见可能无法消除，但制定明确的章程有助于问题解决，同时要对数据设置使用许可。

Mohit Joshi

Infosys总裁

（以下为发言视频内容）

我认为就人工智能而言，从伦理的角度来看，有很多问题。

一是偏见问题，因为在基于现有数据集做出决策时，例如如果现有的贷款业务偏向某些种族人群而歧视特定人群，机器学习算法最终会犯同样的错误。

第二是可解释性问题，我如何使用人工智能算法解释所做出的决定。因为说到底，我们可以使用大量数据做出决定，人类可能无法实现相同的可解释性。

还有控制的问题，我们如何确定我们可以控制所创建的算法？我们想确保尽可能实现人们能够控制自己的数据，如果在算法中使用了这些数据，需要拥有一定程度的知情许可。我认为这是一个非常重要的问题，因为它涉及对人工智能的信任级别。显然，正如大家所知，作为一个社区，我们希望确保对算法有很高级别的信任度。能够制定策略，制定许可章程或一套指导准则，对于公司开展人工智能计划来说非常重要。

我认为，我们永远无法确定偏见是否已解决。因为你可能摆脱了一种偏见，比如说我先前提到的，按种族进行借贷，可能摆脱了这一偏见，但是仍然可能存在按性别进行借贷的问题。我认为问题是，如果在伦理方面有了明确许可章程，包括可以使用人工智能技术完成哪些工作，整个组织都可以轻松访问这个章程，并且章程确实能指导我们解决下列问题：偏见问题、隐私问题、控制问题、可解释性问题等等，我想可以取得好的结果。

（以上为Mohit Joshi在2021年世界经济论坛“达沃斯议程”对话会第一财经电视论坛专场上的发言节选）

制片编导：

吴 磊 许姗姗 周宝平

项目制作人：

傅 娆