首页 > 新闻 > 商业人文

分享到微信

打开微信,点击底部的“发现”,
使用“扫一扫”即可将网页分享至朋友圈。

奇点预言20年后应验了吗?库兹韦尔对人类还有哪些警告

第一财经 2024-10-22 17:03:14 听新闻

作者:江晓原    责编:李刚

危险的是,如果我们对人工智能越来越依赖,早晚会有那一天,人类不得不将决策权交给人工智能,而这恐怕就是人类的末日了。

科学外史II(34)


20年前,库兹韦尔(Ray Kurzweil)写了一本畅销书《奇点临近》(The Singularity Is Near,2005),他使用的“奇点”一词,在互联网和人工智能业者中,在大众媒体中,都留了下来。今年他又写了一本《奇点更近》(The Singularity Is Nearer,2024),再次将“奇点”推送到大众眼前。

库兹韦尔(Ray Kurzweil)

奇点预言及其指标

所谓“奇点”,库兹韦尔在《奇点临近》中说这是他从数学和物理中借用来的词汇。通常,奇点在数学上表示无法定义的点,比如在分母为零的情况下就会出现奇点;在物理上则被用来指那些在理论上物理定律将会失效的点,比如黑洞中心。没想到现在“奇点”一词火得有点要成“经典”之势,还进入了大众媒体,所以他在《奇点更近》开头又谈论了一番:“我使用这个词是将其作为一个比喻。我对技术奇点的预测并非指变化速度真的趋向无穷,因为指数增长并不意味着无限,物理学中的奇点也是如此。”

他这两句从数学和物理中学舌来的理科黑话,仍然可以让“文科小白”听不明白,从而达到唬住他们的效果。其实库兹韦尔的想法,用大白话来说很简单:

技术进步(特别是和人工智能相关的那些技术进步)呈现出越来越快的趋势,很快就将达到一个临界点——奇点,在这个点上,人工智能将以极快的速度超越人类智慧,人类将面临一个全新的世界。这个“技术奇点”的概念,库兹韦尔说是他从一篇1986年的科幻小说中借来的。所以他对“奇点”的展望,并非建立在严密的数理论证基础上,至多只是“定性研究”加上他个人的直觉所形成的推论。

那么怎样才算奇点到达?有没有较为具体的指标呢?库兹韦尔确实尝试给出了一些。他先从历史回顾中归纳出“六大纪元”:1.物理与化学(指物质世界诞生);2.生物与DNA(生命诞生);3.大脑;4.技术;5.人类智能与人类技术的结合(人机结合);6.宇宙觉醒(库兹韦尔对人类文明扩展到全宇宙的畅想)。

他认为人类目前处在第5纪元,这当然是在意料之中的。至于到达奇点的具体指标,他也举出了一些,其中较能言之成理又确切可以验证的有这样三条:

(1)2010年能够用超级计算机模拟人类智能。2020年能够用个人计算机大小的设备模拟人类智能。

(2)2025年之前详细了解大脑所有区域的活动过程及模式。2025年前后能够用有效的软件模拟人类智慧,并对其进行建模。

(3)计算机在2020年代(我们姑且理解为2029年)末通过图灵测试——库兹韦尔的意思是此时人工智能与人类智能将不再有任何区别。

20年后的“中期检查”

在2005年的《奇点临近》一书中,库兹韦尔明确预言了奇点到达的年份——公元2045年。这个预言看上去似乎言之凿凿,有确切的年份,不那么模棱两可,其实“人工智能大大超越人类”这样的判据,仍然是很有“商量”余地的。

库兹韦尔在《奇点临近》中对奇点的展望和预测,据他自己在书中交代,完全是建立在技术持续实现“指数增长”这一前提上的。而在数学上,指数增长必然导向发散(无穷大,也即奇点)。但在现实生活中,这样的指数增长还从未有过真正的实例。

2024年,《奇点临近》出版已经20年了。对于库兹韦尔为期40年的“奇点”预言,正好过去了一半。经常承担研究项目的人都知道,当项目期限到一半时,“上面”或出钱资助项目的人,就要来搞“中期检查”了,承担项目的人就要提交“中期检查报告”了。库兹韦尔“奇点项目”的中期检查报告,就是《奇点更近》这本书。

《奇点更近》

[美] 雷·库兹韦尔 著 芦义 译

湛庐文化·中国财政经济出版社 2024年9月

我们看看库兹韦尔上面预言的那三条:第1条,预言的年份早就过了,脑科学和计算机显然都还远未达到他预言的指标,库兹韦尔明显失败。第2条,还剩一年,几乎可以说已经没有指望了。第3条,最多还剩五年,由于“通过图灵测试”本身的指标也有模糊性,到时候还有扯皮的余地,只有这条还不能断言库兹韦尔失败。

对于奇点到来之后的世界,库兹韦尔当然也有许多大胆的展望,要不他怎么能想象出上面的第6纪元——详见《奇点临近》第6章冗长的最后一节,这一节几乎就是他的读书报告,里面放进了星际航行、德雷克公式、平行宇宙、SETI行动(寻找外星文明)等等一大堆科普知识。不过他读书总算是比较认真,检查下来倒也并无错误。

在“中期检查报告”《奇点更近》中,库兹韦尔当然未提他预测的失败,而是表示对于人工智能在2029年通过图灵测试仍抱有信心。不过对于图灵测试他又给出了新的说法:“值得注意的是,当AI系统真的通过图灵测试时,它必须在很多领域内故意表现得不那么聪明,否则人们将很容易识破……因此,达到通过图灵测试的水平时,AI在大多数领域的能力将远超最优秀的人类。”这个说法倒是能够言之成理。

其实大家都知道,预测危险,展望容易,库兹韦尔当然也深谙此道,所以在《奇点更近》中,展望远远多于预测(尽管有时还会忍不住),这样到2045年“结项验收”时风险就小多了。书中有如下几点比较值得注意:

承认AI的使用会导致失业,但仍持乐观态度,认为“我们最终不会与AI竞争”。

相信人工智能将跨越“情绪记忆”“常识推理能力”“社交互动”这三个里程碑。

创造“来生”——借助一个人生前在赛博空间留下的全部信息,用生物技术和人工智能创造出与此人思想形貌完全一致的复制人。

2030年代,人类大脑将能连接到云(借助脑机接口)。

2030年前后,一部分人将达到“长寿逃逸速度”——他们“自此每过一年,剩余预期寿命就会增加一年”,这实际上就是永生。

畅销书式的危机警告

作为“未来学”著作中相当成功的畅销作品,《奇点临近》《奇点更近》虽然都对未来抱着极为乐观的态度,但也都对未来的某些危机前景表达了适度的忧虑和警告。

例如在《奇点临近》中,库兹韦尔对人工智能的学坏或反叛,表达了忧虑,认为人们所想到的大部分方法都不足以对付强人工智能的病变,而他能提出的策略也只是“最大程度上使得(人工智能)反映我们的价值观,包括自由、宽容以及对知识多样性的尊重”,他知道要解决这类问题,“纯粹的技术策略是不可行的”。但在一本洋洋数十万言的书中,这样几行有气无力的警告,很容易被绝大多数读者忽略。

到了《奇点更近》,在最后一章“我们将会面临4个巨大危机”中,库兹韦尔在以下问题上表达了他的忧虑:1.核武器依赖人工智能控制的危险前景;2.人工智能驱动生物技术前行的危险性;3.人工智能驱动纳米技术前行的危险性;4.人工智能本身学坏或反叛的危险性。最后这个问题仍然是最严重的。

库兹韦尔带着预测问了一个较有深度的问题:“到21世纪30年代后期,我们的思维本身将在很大程度上是非生物学的,那么……人类决策的作用何在?”具体年份当然无所谓,危险的是,如果我们对人工智能越来越依赖,早晚会有那一天,人类不得不将决策权交给人工智能,而这恐怕就是人类的末日了。

举报

文章作者

一财最热
点击关闭