人工智能会摆脱监管反抗人类吗？应该把道德嵌入程序

郑州21岁空姐搭顺风车遇害后，有媒体调查发现，滴滴打车软件上，行程结束后顺风车主竟然可以对乘客容貌进行评价。但大多数乘客对此未加注意，因为这些内容只有在同样对车主做出评价后才会显示出来。很可能在女性乘客上车前，危险就已埋下。社交平台上，有网友愤怒地表示：“无辜空姐的死，顺风车产品经理绝对要负责任。”

在刚刚主译完成《道德机器》一书的王小红看来，空姐遇害的极端事件正是技术和道德在当下社会发生强烈冲撞的典型悲剧。而在《道德机器》的“原产地”美国，最近引起轩然大波的一起计算机技术滥用事件，则是一家英国大数据公司利用Facebook上5000万人的个人资料数据，影响了美国总统大选。事件被英国媒体曝光后，Facebook 联合创始人马克•扎克伯格遭遇创业以来的最大危机，刚刚结束美国国会听证会，又到布鲁塞尔就用户数据隐私及保护、网络暴力、党派偏见等重要问题接受欧洲议会的质询。

《道德机器》被誉为人工智能领域道德研究的经典之作，由人工智能和神经科学伦理学领域专家温德尔•瓦拉赫以及认知哲学家科林•艾伦合作完成。两位国际著名学者试图为如何才能让机器具有道德提出解决之道，希望能建立“人工道德智能体”，具体办法则是通过“自上而下式与自下而上式的混合道路”，将道德纳入机器程序设计之中，使美德和特殊的情境相结合，让人工道德智能体在人类社会的应用中更加具有可适性。

该书英文版2008年就出版了，但在身为西安交通大学计算哲学实验室中方主任的译者王小红看来，尽管10年后中文版才姗姗来迟，书中的观点却并未过时，两位作者关于技术与道德、科技与人文之间关系的深刻而详尽的阐释，以及对建构“人工道德智能体”的开创性探究，在人工智能高速发展的今天依然能带给我们重要启示。

此前，从哲学角度研究人工智能的重要著作，有美国加利福尼亚大学伯克利分校哲学教授休伯特•德雷福斯的《计算机不能做什么》，中文版1986年由三联书店出版；2006年，上海译文出版社又出版了英国科学院院士玛格丽特•博登编著的《人工智能哲学》。王小红认为，这两本书虽然在人工智能哲学领域很重要，并且在学术界产生了很大的影响，但并不具有《道德机器》的现实意义。除了后者成书于人工智能技术更加成熟的年代，内容阐述在技术可行性方面更为系统、深入，最大的不同就是悬置了哲学界一直讨论不休的形而上的问题——究竟计算机、人工智能是否会有或应有人的道德、人的智能，而是更注重实践，“温德尔•瓦拉赫和科林•艾伦敏锐地看到了人工智能技术一旦越来越多地渗入进人类社会，将会带来一系列很深刻、重大的社会问题、道德问题，这些问题甚至关系到人类的生存，所以他们认为必须要尽快地解决这些问题”。

第一财经：霍金有个著名的观点，人工智能很可能是人类文明的终结者。《道德机器》中也有一个论断，未来数年内人工智能系统可能会摆脱人类监管，自主做出决定，甚至走上反抗人类的道路，因此作者才提出要建立“人工道德智能体”。在你看来，如果“人工道德智能体”最后没有建立起来，这些预言和担忧是否会真的成为现实？

王小红：我2001年到北大读博士时开始研究人工智能哲学，从我个人的理解来说，如果机器道德不跟飞速发展的人工智能技术结合，那么这些预言是有可能成真的。这很危险，从中也可以看到这本书的价值，两位作者在十年前就深刻地认识到“人工道德智能体”很重要。

把人类道德嵌进人工智能设计程序

第一财经：人类道德和机器应该怎样结合？

王小红：《道德机器》的两位作者基于他们十年的研究，提出目前为止最好的路径，就是“自上而下式与自下而上式的混合道路”，使美德和特殊的情境相结合，让人工道德智能体以更加类似人类习得道德的方式，成为道德的自主自决体。

“自下而上”是指让机器习得人的良善品德，就像实现亚里士多德的理想一样，有好的品德的人不可能会做出不道德的行为。这一点也跟我们的儒家思想中的“道德教化”有异曲同工之妙。虽然两位作者没有中国哲学背景，但他们也提到了一点佛教以及中国哲学思想在“自下而上”的道德原则方面的意义。

“自上而下”是将人类道德体系中成熟的、能够清晰化的一些原则尽量清晰化、算法化，比如康德的道德律令。当然书中也讨论了计算机会遇到的一些问题，比如“永远说真话”。这个原则在实际运行中会出现矛盾，因为有时候我们需要善意的谎言，而说假话也未必都是不好，对敌人就要用假象去迷惑。这时候我们就要给机器输入这样一些情境知识。计算机得大量分析什么时候要使用善意的谎言，什么时候要迷惑敌人等等，以及怎么辨析敌人、朋友、好人、善等等，里面涉及大量的情境和知识，似乎牵扯到无穷无尽的可能性。但实际上，人并不是这样来决策的，因为人的心智只能进行非常有限的计算，并不是在每种情况下都去计算无限的可能，人也没有计算机那样强大的计算速度和存储量，我们每个人在做计算的时候往往采用最简洁有效的方式，类似一种我翻译为“多快好省”的“启发式”策略，这是德国认知心理学家吉仁泽和他的学生、现在美国印第安纳大学的彼得•托德提出的。计算机科学家从一开始就一直在摸索研究“启发式”，即人类解决问题的那些有效的经验法则，如何能够跟人工智能结合起来。《道德机器》中也提出了可行性探讨，也觉得这方面是乐观的。

第一财经：“自上而下式与自下而上式的混合道路”是2008年在美国提出的，现在10年过去了，全世界范围内人工智能技术迅猛发展，你认为这一解决方案实际的可行性如何？

王小红：《道德机器》中文版翻译好后，作者之一科林•艾伦写了篇序，认为迄今为止这个解决路径还是最好的。我通过自己的阅读和研究，也赞同这个观点。因为大多数人研究人工智能技术，看到了其中的危险性、风险性，但往往都认为应该从社会规则、法律上面去加以约束和限制。而《机器道德》提出，要系统、完整地解决问题，就要从人工智能“源头”的技术设计开始，把人类道德嵌进设计程序之中。书中，作者用大量细节和案例谈了这些技术目前成熟到什么地步了，还有哪些缺陷。这些阐述很深刻，关键是现在做类似研究的学者并不多。

第一财经：国内外都不多吗？

王小红：国外不多，国内都还没开始系统研究，只是有些学者写过些很有见地的文章，但没有完整的著作。《道德机器》里面涉及的内容其实非常多，对学者要求也很高，既要懂人工智能技术，又要对哲学有深刻的理解，所以中文版出来后，国内很多研究人工智能哲学的学者，都把它作为必读参考资料。

第一财经：国内学术界对《道德机器》那么关注，背后可能还有个原因，就是近年来人工智能在中国发展得非常快，但负面影响也开始出现。比如无处不在的大数据引发了个人隐私泄露，以“算法”做内容的“今日头条”频频陷入道德危机。

王小红：对，从实践层面来说，我觉得不管是对中国的学术界还是IT行业，《道德机器》的研究路径都是很有启发意义的。国内现在虽然在打通文理学科界限方面做通识教育，但从1950年代起我们国家就实行的文理分科，导致很多工程师、科学家对人文方面的知识实际上是缺乏关注的。而技术呢，归根结底是为社会所用，里面更深层次的要求就是要体现人文关怀，把这种人文价值观渗透到技术设计理念中，这方面中国整体还是很缺乏的。比如像滴滴打车软件和百度搜索引擎，里面有智能控制、智能管理，这些技术已经渗透到我们生活中了，大家都离不开了。但不管是空姐遇害事件还是魏则西之死，都把背后智能控制技术导致的问题暴露出来了。因此，《道德机器》的启示意义就是，让我们国家的工程师、技术人员更多地关注他们所从事的技术带来的人文意义，这个很重要。

第一财经：空姐遇害和魏则西之死两起极端事件拷问的其实都是背后的道德和底线，所以《道德机器》一书的作者才提出要建立“人工道德智能体”。但可能也会有人疑惑，在一个人类自己都不能自觉遵守道德规范的社会里，要求机器有道德，这是否太理想化了？

王小红：是的，你这个问题很多人也问过我。我想反问的是，我们每一个人都不可能成为一个完美的道德体，那么我们就可以没有道德责任感了吗？现在人工智能机器和硬件这么深入地渗透到人类社会中，它必须也应该是有道德的，否则的话对于人类社会发展就很危险了。同样，建立和发展“人工道德智能体”这项技术，也能够让人类加速认识到自己道德的局限性，让人类道德系统本身更为完善，这是个相互促进的过程。

《道德机器》

[美]温德尔•瓦拉赫、科林•艾伦 著

北京大学出版社2017年12月版