首席评论丨人工智能时代的风险挑战?

导视：

世界经济论坛聚焦

“在第四次工业革命中实现包容性增长”

人工智能会取代哪些工作?

如何应对新兴技术带来的风险挑战?

本期嘉宾

艾德维——世界经济论坛大中华区首席代表

鲁白——清华大学教授

陈劲——清华大学经济管理学院教授，清华大学技术创新研究中心主任

文字实录

夏季达沃斯论坛开幕 关注科技创新

世界经济论坛第11届新领军者年会，即夏季达沃斯，6月27日在大连开幕，本次会议主题为“在第四次工业革命中实现包容性增长”。如何应对第四次工业革命, 降低其中潜在风险, 推广以人为本的技术以惠及全人类发展, 成为会议的核心议题。第四次工业革命中诞生的新兴技术正在从多个角度改变世界，技术带来的风险也正引起全球越来越多的关注。

艾德维：在第四次工业革命中实现包容性增长，和下一代携手，我们需要定义科技如何提升人类潜能，而不是替代人们的工作;科技如何服务于社会，而不是让社会分裂。经常发生的是，人们忽视了技术进步带来的对人自身以及社会的影响，而仅关注在经济影响和利润最大化上。

陈劲：最近几年的技术革命，整体来说发生的程度比以前深刻得多，所以它应该说是更多地介入了人类的生活空间，以前技术主要帮助人类更好地工作，现在由于技术的进一步创新，使得技术对人类本身的工作带来挑战。比如说像机器人，对未来传统的工作有替代的效应，包括智能机器人对整个传统的工作劳动带来深刻变化。所以这个过程中，我们技术的风险将成为我们技术创新、技术发展里面非常重要的话题。

人工智能和机器人技术负面影响引关注

世界经济论坛发布的《2017年全球风险报告》，约有750名专家对30项全球性风险进行了评估。就技术风险，报告分析了包括3D打印、新型材料和纳米材料、人工智能和机器人、生物技术等在内的12项新兴技术，专家认为人工智能和机器人技术的潜在效益最大，但潜在的负面影响也最大，因此也最需要更完善的治理。那目前人工智能处在怎样的发展阶段呢?

人工智能所处的发展阶段?

鲁白：人工智能可以把它分成两个方面来讲，一个是作为科学，一个是作为技术，人工智能作为一个科学，它也有三个峰，最近一个峰从理论上讲是2006年，他们发明的深度学习，这个使得人工智能从科学上面大的问题解决了。现在大家非常热衷谈论的人工智能，不是讲人工智能作为一个科学，而是人工智能作为一个技术，在各行各业的应用。

第一个阶段是所谓的语音识别、翻译、图象识别跟人脸识别，还有就是机器人，包括自动驾驶技术，还有就是在金融上面的应用。比如说小额贷款，还有两个最显著的应用，一个是所谓的衣食住行，旅行或者出行，这是一个比较大的应用，另外一个是购物，大家都已经看见了，淘宝、京东，这个会几乎彻底地改变我们的生活习惯。

人工智能的第二个阶段的应用，可能是在无人车，当你有了无人车以后，我们整个交通改变了，我们的道路，我们的出行的习惯，整个都改变了。在我们生物技术方面，基因组信息大量的应用。还有在医疗服务这个方面，在医疗服务这一块，是可能会出现一个人工智能的大量应用，包括你是怎么去看医生，怎么配药，怎么付款，诸如此类的，

人工智能的第三个阶段的应用，可能跟我个人从事的行业比较有大的关系，第一个是在医疗方面的应用，诊断和治疗，这两个方面有苗头，就是人工智能可以慢慢进入这个领域，但是现在还没有做到。

第二个领域是教育，教育就包括我们小学、中学、大学的教育，包括我们知识的传授，能力的培养，这一系列人工智能是可以进入的。但是现在还没有做到。

第三个领域就是我们作为科技人员，我们做研究，怎么样用人工智能来帮助提高我们做研究的效率，这个方面现在也是还没有做到，但是我可以想象随着科学研究的进一步依赖于各行各业的合作，包括大规模的合作，全球化的合作，会产生大量的数据，这个时候就有可能人工智能可以应用到上面去。

我回过头来再简单说一下人工智能它有三个支柱，第一个就是人工智能所依赖的科学，我们说的第三波的人工智能主要是深度学习这个理论，第二个是计算能力，云计算能力，超级强的计算能力，现在这个也已经有了。第三个是需要大数据，这个大数据是要有高质量的均制化的大的数据，这个不是各行各业都有的，所以人工智能能不能在某些行业的应用，其主要瓶颈是有没有高质量同质化的数据。教育领域至今为止没想出一个办法产生大数据，我说的大数据基本上几十万到上百万数据，有了这个数据人工智能可以用来做深度学习和计算的，这个现在没有。

人工智能会带来哪些风险?

通过提供新的信息及改善数据驱动的决策模式，人工智能可以帮助解决 21 世纪的一些复杂全球挑战，正有大量的资金和人才向这一领域汇聚，繁荣发展的同时，人工智能时代可能会带来哪些风险呢?

鲁白：我觉得风险主要是两个方面，一个是个人隐私的风险，另外一个是投资过热的风险，现在我们在衣食住行方面有大量的数据，但是这些产生的数据可以被用来作为某一些，我可以说是不正当的商业或者政治的行为。

第二个风险是我个人认为，现在是有一个跟风，一窝蜂的现象，因为人工智能技术在某些领域应用的成功，造成了很多雨后春笋般的AI公司，也有大批的投资人，对人工智能其实并没有比较深入的了解。但是大家觉得这是一个趋势就开始投资，这样的话就会由于炒作，使得这方面的投资过热。

哪类工作容易被人工智能替代?

陈劲：人工智能对人类工作很大一个风险就是会替代一些传统的简单和重复性劳动，甚至是靠计算为主的劳动，这是一个非常重要的现象，如果我们只计算人工智能对制造业效率方面贡献的话，我们就会忽视人工智能对整个劳动力市场带来的负面影响。所以这个过程中，也就是对技术的发展应该进行综合性的考量，要保证就业，因为就业仍然是社会发展非常重要的目标，而不只是提高制造业的竞争力问题。

当然应对这个情况，就是我们要主动应对，我们在整个劳动力培训方面，就是要培养出更有创造力的员工，而不是培养传统的操作型员工，所以这里面对我们的高等教育和职业技术教育带来新的培养人才的要求。

具体来说就是把人工智能擅长的工作岗位的专业设计进一步简化，而把综合性、创造性、情感性这样一个职业发展作为我们人类工作的一个重点，我认为从专业设计和人才培养的任务方面，应该做比较大的调整。

如何应对人工智能对就业的挑战?

鲁白：那我们应该如何应对人工智能所带来的可能的巨大的就业市场的改变?我觉得有两个方面，首先从个人角度来讲，我们一定要有一个拥抱新技术，有一个学习的态度，所以我今天是呼吁对各行各业，不仅仅是年轻人，甚至包括已经在就业市场里面非常活跃的人，以及老年人，每一个人都要学习、了解人工智能是什么，它会给我们生活带来什么变化，给我们的社会带来什么变化?我觉得这首先要有一个拥抱学习的态度。特别是在从事一些高度重复的低端工作，很有可能被人工智能替代的，比如门卫，人脸识别，完全可以不要这个人，你作为一个门卫就要想一下我将来做什么事。出租车司机，以后都用无人车了，作为出租车司机一定要想我怎么办，我要考虑改变我的，要学习，要适应，要改变我就业的技能。

第二个方面，就是说我们要更多地考虑具有创造性，具有人性这样的工作，这些类型的工作是不会被人工智能取代的。你比如说我们从事科学研究，这是我经常说的，我们从事科学研究，这个是不能被人工智能代替的，这是一个创造性的活动，艺术的劳动、设计，凡是具有人的创造力应用的行业，人工智能是很难代替的。

还有一个方面，就是人工智能是没有情感的，所以凡是要体现人性化服务的行业，那就不可能被人工智能取代。凡是通过技术的重复劳动的工作，一定是能够被人工智能所取代。所以我是觉得我们应该更多关注创造性的劳动，人性化的服务。

陈劲：人工智能还是比较擅长在数据的处理或者信息的处理方面，它其实不能超越人类的是对知识的处理，特别是隐性知识的处理，还有智慧的产生，它其实是无能为力的，所以在这个过程中，我们一方面要防止由于人工智能对数据过多进行处理和占用过程中带来的技术风险，我们同时也要看到其实它也并不是对人类危害很大的，其实很难超越人类。所以这方面，我们一方面要监管它的整个合理性问题，但是同时也要看到人类的智力仍然是最高水平的，它是无法超越的。它很难完成人类的想象功能或者创造功能，它是在目前为止根本达不到的。

这个过程中我们不需要过多担忧人工智能发展的影响。而未来一个好的做法就是做到人机协同，人类依靠人工智能技术，让我们在数据和信息处理方面能够更加擅长，帮助我们更好地决策、生活、工作，这样一个辅助作用，最后它不能主导人类生活的各个方面。

技术进步会带来哪些风险?

除了人工智能对于就业市场的影响，包括人工智能在内的各种新兴技术会加剧哪些类型的风险呢?

陈劲：技术创新会使得传统商业面临着一个消亡的局面，所以让商业的整合性变得更强，比如说智能手机出现的话，让电视、手机和音响产品进行了整合，所以传统的商业就要以更大的商业模式完成，所以这个过程中应该说传统商业面临很大的挑战，技术不断地突破它的边界问题。

除了商业风险以外，我认为下一个可能是法律风险，比如说从智慧医疗来看，如果将来有机器人承担人类的医疗工作的话，如果出现医疗事故，谁来承担这个风险?所以这个问题如果不进行研判，会带来很大的法律风险。所以这方面我们是要非常严谨地考虑。

另一个伦理风险，就是随着共享经济、摩拜单车，或者是这样一个技术的发展，实际上是会让我们感觉到人类产权概念在下降，这个过程中强调使用权，对人的伦理发生一些变化，就是是不是会忠实一个组织或者单位，或者永久在一个地方发展，这个带来的职业风险就是伦理方面的，这样的风险其实也是非常大的。

所以我们可以看到，现在技术本身的风险加上商业风险，加上法律风险，加上伦理风险，其实现在是一个高风险的技术变革时代。

如何鼓励“负责任的创新”?

对于技术进步，重要的挑战是在潜在的收益和潜在的危险之间找到平衡，正如《2017年全球风险报告》所提出的，过度严格地限制技术发展可能会延误乃至妨碍潜在利益的取得。但是，如果缺乏有效的监管，也会导致技术被不负责任地滥用。

陈劲：在早期技术发展对人类影响不是很显著的时代，我们可以说要鼓励技术的创新和技术的发展，但是在一个互联网和共享经济时代，以及技术本身高速发展时代，出现很多技术之后，就非常需要关注它的风险平衡问题。因为我们说创新很重要一个环节就是它只考虑经济绩效。所以我们不断促进技术的发展，但是如果创新不考虑到一些社会、法律和伦理风险的话，创新就会变成一个对社会有危害的活动，所以这里面我认为有关政府部门应该加强监管来控制技术和创新的风险，特别要鼓励有一个名词叫“负责任的创新”，这个创新一定要对人类负责任，一定要保证人类的安全，保证社会的和谐，而不是简单避免技术用于商业目标，或者技术用于某些狭隘的目标，这样一个控制对政府部门和我们第三方都是非常需要关注的一个问题。

这就是说，我们要强调创新的治理工作，创新的治理环节不是少数由单个某个部门技术专家决定，应该由整体的多学科小组，包括了我们各种技术专家，当然也包括我们的经济学家、法律学家，还有管理学家，加上政府管理部门，应该共同去研讨一个技术发展的安全性、稳定性问题，它的社会有害性问题，这方面都应该进行严格的讨论，进行有效的治理之后，才能去促进技术的健康发展。