首页 > 视听 > 首席评论

分享到微信

打开微信,点击底部的“发现”,
使用“扫一扫”即可将网页分享至朋友圈。

薛澜:如何防范人工智能的潜在风险?丨首席评论

第一财经2024-04-24 10:48:09

作者:首席评论    责编:施宇楠

当前,全球人工智能科技创新异常活跃,以ChatGPT和Sora为代表的大模型技术的重大突破,打开了迈向通用人工智能的序幕。但与此同时,人类如何与人工智能共存,并在保证其安全可控的前提下让其更好地造福人类社会,成为全球共同面对的重大挑战。就“人工智能发展与治理”的相关话题,第一财经《首席评论》专访了清华大学苏世民书院院长薛澜。
举报

当前,全球人工智能科技创新异常活跃,以ChatGPT和Sora为代表的大模型技术的重大突破,打开了迈向通用人工智能的序幕。但与此同时,人类如何与人工智能共存,并在保证其安全可控的前提下让其更好地造福人类社会,成为全球共同面对的重大挑战。就“人工智能发展与治理”的相关话题,第一财经《首席评论》专访了清华大学苏世民书院院长薛澜。

第一财经:人工智能的公共治理,成为中国发展高层论坛一个重要议题,这方面的问题主要有哪些?

薛澜:如果讲科技变革,大家常常讲的很多是第四次工业革命,人工智能技术又是第四次工业革命最有代表性的科技。所以我们就以人工智能为例,它的发展到底对社会有什么样的影响?哪些可能会引起公众的关注?第一个,发展科技当然是希望科技向善,能够造福人类。但在科技的发展过程中,又不可避免会带来一些风险,有的时候可能对我们的好比隐私产生一些影响,有的时候甚至给我们带来一些伤害,当然还有更大的风险,可能对整个人类的生存都带来影响。这一大类问题是我们可能最关注的。第二大类问题,科技的发展可能的确在短时期内带来很多好处,但长远来看,可能又会带来一些相对的负面影响。好比说手机给咱们带来巨大的便利,但是也可能依赖手机,可能上瘾。大部分的科技都面临这两类问题。

第一财经:全球各国的对策角度来看,有什么样的思路?

薛澜:以人工智能为例,前段时间也有人做了一些全球的问卷调查,来看各个国家对人工智能技术的态度。中国可能是态度最积极的国家之一,大概百分之七八十的受访者对人工智能的发展都是非常积极的,特别高兴能够看到它的广泛应用。相对来讲,可能欧美的一些国家,更多担心这些技术的应用对个人隐私可能带来的风险。所以他们可能是40%-50%左右,这还是有很大差别的。

第一财经:不同的政策和态度会导致各国在技术、前进步伐,以及发展赛道方面有什么差异?

薛澜:最前沿的技术出来后,都有一个在社会广泛推广应用的过程。这个过程,因为不同的社会、不同国家,它的经济体系不同,社会制度安排不同,公众态度、文化等等,这些差别都会导致这个技术推广应用过程在不同国家差别很大。在人工智能技术上,有一些是共同的,就是要防范它的一些重大风险,包括可能是对人类生存产生的危害。

第一财经:“对人类生存产生的危害”,是怎么发生的呢?

薛澜:大家在研究通用人工智能,这个人工智能会不会有一天产生自己的一些意识?一旦它有自己的意识,它要自我保护。大家原来说,不担心人工智能有问题,把电拔下来就行。但一旦它有很高智能的情况下,它可能就会想到这个问题,怎么能够去避免我的电源被你拔掉?或者它会怎么样来有意识欺骗你,让你信任它,这样来保护它自己。通用人工智能达到一定水平后,这方面的问题就至少是需要去考虑的。因为一旦它有自主的意识以后,如果哪天它说我不想总是被人类指挥,它就有可能运用它的智能成为人类的主宰,这时候就叫所谓碳基和硅基生命之间文明的竞争了,这是我们担心的。在ChatGPT出现前,大家总觉得通用人工智能还是比较遥远的。现在ChatGPT出来之后,很多专家都改变了他们的看法,觉得确实这是刻不容缓需要考虑的问题。

第一财经:目前技术界、法律界、政策界的决策者们,是否已经有一些您认为是比较“靠谱”的对策?

薛澜:中国在人工智能这个领域,可以说始终非常坚持两手抓。一方面推动人工智能的发展,另一方面也推动相关治理体系的建立。所以其实从2017年,《新一代人工智能发展规划》出台的时候,那个文件就说得非常明确,一方面要推动科技向善来造福人类,另一方面也要防范相关的风险,建立相应的体系。所以我们几步走的规划都有,中国的人工智能治理体系要怎么去发展。2019年,咱们国家成立了国家新一代人工智能治理专业委员会,出台了中国的《新一代人工智能治理原则——发展负责任的人工智能》。后来,又出台了中国的《新一代人工智能伦理规范》。所以做了大量的工作。现在中国可以说是有一个自上而下、自下而上结合的人工智能治理体系。自上就是刚才讲的这些原则,另外有相当一套比较完整的法律法规,对很多特别具体的应用进行相关的治理。自下而上的话,很多地方政府有很多政策去推动应用,好比自动驾驶、医疗服务的应用等等。另一方面也有很多相关的规则来防范风险。这样一种体系在与时俱进,在不断变化。

第一财经:技术和商业以及政策,它们的先后发展顺序,往往是技术和商业走在更前端,而法律法规、政策,是在相对滞后的一个位置。

薛澜:确实就是这样,所以我们研究治理的讲,这叫Pacing Problem,就是步调不一致。技术发展非常快,治理体系形成有一个所谓要不断地去利弊权衡,去探讨,要很慎重出台。所以这个过程应该说原来是非常慢的。所以这也是为什么强调人工智能的治理方面,要“敏捷治理”。传统治理方式要进行调整。原来我们说要把各种利弊权衡非常全面分析之后,再来出台相应政策。现在技术发展这么快,那么全面论证完了以后,要规制的技术早就已经不在了,新的技术出现了。所以这个时候就需要比较快速地反应。而且每次反应可能未见得是那么严格的,一下子全面的规制手段。可能也许所谓是叫助推,轻轻碰你一下,推你一下,提醒你一下,这方面可能有风险,需要去关注。同时政府的监管者和企业之间不是“猫和老鼠”的关系,大家是一个伙伴关系。要互相加强交流,把潜在的风险尽早识别,采取措施来防范。所以在这样一个敏捷治理的条件下,原来存在的一些问题可以被适当规避。

第一财经:不同国家对新技术适用的速度或者态度都是有非常显著差异的。我国是否可以去借鉴其他地方,比如欧洲,可能相对更谨慎一些,是否我们要中和一下?

薛澜:要具体情况具体分析。即使都是发达国家,也会有不同态度。像美国确实也是非常鼓励创新的,中国还是要立足中国的国情。但有一点,我们有人类命运共同体。真正涉及整个人类社会的生存,对这样的一些重大风险,必须得全球协调,步调一致,这就需要加强各个国家的沟通交流。

第一财经:关于就业,很多人担心人工智能会抢了我们的工作。人和人工智能之间“抢饭碗”这件事,人有多少胜算呢?

薛澜:科技的发展的确对于各行各业都会有很大的影响。有很多学者也做过一些估算。所有跟信息收集、整理、传播相关的行业都会受到影响。也许学校老师、医生、律师、文秘等等,可能都会受到影响。但是所有科技进步在发展过程中都会对现有的就业结构产生影响。所以,一般我们研究科技创新的人都在说,一方面它可能会替代很多就业岗位,但另外一方面会创造很多新的就业岗位。但是对人工智能技术来讲,我觉得至少目前真的不排除,可能它创造的就业机会不如它替代的就业机会多。这样的确有可能对人类社会未来的就业产生很大影响。另外,它可能还会带来一系列其他的问题,包括收入分配的极化。有这个技能的,可能收入特别高,但是没有相关技能的,工作被替代了,连收入都没有了。这种极化也会带来严重的各种社会问题。所以一方面要去更好地分析哪些工作不容易被替代,或者哪些技能是新的技能,需要更快掌握。另外,也很有意思,很多依靠劳动力的就业岗位,可能反倒不会被替代。

第一财经:服务业,是吗?

薛澜:服务业,有些以劳动力为基础的服务业被替代的可能性更小。我觉得要做这个分析。但另外一点,我们整个传统的社会分配方式可能也需要去探讨。

第一财经:分配方式会有哪些调整?

薛澜:可以有很多种方式,好比说有的人也在探索所谓叫Universal basic income(全民基本收入)。等于你什么事也不用干,我给你一定的基本工资、生活保障,类似于这样的一些机制,有些北欧国家在探讨。所以不光是要关注技术方面,同样社会制度安排怎么样适应这些技术变革,这是我们要去探讨的。

本期节目

主编 芮晓煜

制片人 尹淑荣

文章作者

一财最热
点击关闭