尤瓦尔·赫拉利：当工作被人工智能接管，大众只能靠药物和虚拟游戏维生？

科学技术的发展将颠覆我们很多当下认为无需佐证的“常识”，比如人文主义所推崇的自由意志将面临严峻挑战，机器将会代替人类做出更明智的选择。更重要的，当以大数据、人工智能为代表的科学技术发展的日益成熟，人类将面临着从进化到智人以来最大的一次改变，绝大部分人将沦为“无价值的群体”，只有少部分人能进化成特质发生改变的 “神人”。

未来，人类将面临着三大问题：生物本身就是算法，生命是不断处理数据的过程；意识与智能的分离；拥有大数据积累的外部环境将比我们自己更了解自己。如何看待这三大问题，以及如何采取应对措施，将直接影响着人类未来的发展。

新锐历史学家、《人类简史》作者尤瓦尔•赫拉利的这部《未来简史》，正是解读这一进程的既震撼人心又趣味盎然的作品。第一财经阅读周刊节选书中部分内容，与读者分享。

 

《未来简史》

【以色列】尤瓦尔•赫拉利 著 林俊宏 译

中信出版集团

2017年1月

二十一世纪经济学最重要的问题，可能就是所有多余的人能有什么功用。等到拥有高度智能而本身没有意识的算法接手几乎一切工作，而且都能比有意识的人类做得更好，人类还能做什么?

纵观历史，就业市场可分为三个主要部门：农业、工业和服务业。在大约公元1800年前，绝大多数人属于农业部门，只有少数人在工业和服务业部门。到了工业革命，已开发国家的人民就离开了田野和农畜。大多数人开始属于工业部门，但也有愈来愈多人走向服务部门。到了最近几十年，已开发国家又经历了另一场革命：工业部门的职务消失，服务业大幅扩张。2010年，美国的农业人口只剩2%，工业人口有20%，占了78%的是教师、医师、网页设计师等服务业。但等到不具心智的算法也比人类更会教、更会医、更会设计的时候，我们要做什么?

这并不是一个全新的问题。自从工业革命爆发以来，人类就担心机械化可能导致大规模失业。然而，这种情况在过去从未发生，因为随着旧职业过时，会有新职业出现，人类总有些事情做得比机器更好。只不过，这点并非自然法则，也没人敢保证未来一定会继续如此。人类有两种基本能力：身体能力和认知能力。在机器与人类的竞争仅限于身体能力时，人类还有数不尽的认知任务可以做得更好。所以，随着机器取代单纯操作性的工作，人类便转向专注在需要至少一点认知技能的工作。然而，一旦等到算法也比人类更能记忆、分析和辨识各种模式，会发生什么事?

如果认为人类永远都能有自己独特的能力、无意识的算法永远无法赶上，这只能说是一厢情愿。对于这种空想，目前的科学响应可以简单概括为三项原则：

1.生物是算法。每种动物(包括智人)都是各种有机算法的集合，是经过数百万年演化自然选择而成。

2.算法的运作不受组成物质的影响。就像是算盘，不管算珠是木制、铁制或是塑料，两个珠子加上两个珠子还是等于四个珠子。

3.因此，没有理由相信非有机算法永远无法复制或超越有机算法能做的事。只要运算确实，算法是以碳来表现或是硅来表现又有何差别?

确实，目前还有许多事情是有机算法比非有机算法做得更好，也有专家反复声称，有些事情“永远”不是非有机算法所能做到。但事实证明，通常这里的“永远”都不超过一、二十年。就像在不久之前，大家还很喜欢用脸部识别做例子，说这项任务连婴儿都能轻松办到，可是最强的计算机却无力完成。但到了今天，脸部识别程序辨认人脸的速度和效率都已经远超过人类。警方和情报机构现在已经很习惯使用这种程序，扫描监视录像机无数小时的影片，追踪嫌犯和罪犯。

1980年代讨论到人类的独到之处，很习惯用西洋棋作为人类较为优越的主要证据。他们相信计算机永远不可能在西洋棋领域打败人类。但在1996年2月10日，IBM的深蓝(Deep Blue)超级计算机就打败了世界西洋棋王卡斯珀罗夫(Garry Kasparov)，终结了这项认为人类较为优越的论点。

深蓝击败卡斯珀罗夫

深蓝算是有点取巧，因为编写程序的人不仅写入了西洋棋的基本规则，还加入详细的棋局策略。但到了新一代的AI，比起由人来教，反而更喜欢让机器自己学。2015年2月，由Google DeepMind人工智能公司所开发的一个程序，就自己学会了如何去玩49种经典的Atari游戏。开发者之一的戴米斯·哈萨比斯(Demis Hassabis)博士解释道：“我们唯一提供给系统的信息就是屏幕上的原始像素，而且指示系统要努力得到高分。剩下的一切都是它自己解出来的。”而这套程序也成功找出所有游戏的规则，从小精灵(Pac-Man)、小蜜蜂(Space Invaders)到各种赛车和网球游戏。而且接着，这套程序得到的分数多半都能打平、甚至超越人类，有时候还会使出人类玩家从未想到的策略。

不久之后，AI得到了更惊人的成就：谷歌的AlphaGo软件自学围棋这种古老的中国策略游戏，而围棋的复杂度远超过西洋棋，一般认为这并不在AI程序能够处理的范围。2016年3月，AlphaGo和韩国棋王李世石在首尔举行一场比赛，AlphaGo靠着出奇的下法、创新的战略，以4-1击败李世石，令各方专家跌破眼镜。赛前，大多数专业棋手都肯定李世石能赢得比赛，但等到赛后分析AlphaGo的棋路，多数人的结论则是围棋已经就此结束，人类不再有希望能打败AlphaGo或其后代发明。

近来，计算机算法也证明了自己在球类竞赛中的价值。几十年来，棒球队挑选球员靠的是专业球探和经理的智慧、经验和直觉。顶尖球员的身价直上数百万美元，自然财力雄厚的球队就能抢下一流选手，而经济拮据的球队则只能用二线选手凑和凑和。但在2002年，银弹有限的奥克兰运动家队(Oakland Athletics)总经理比利·宾恩(Billy Beane)决定要打败这个系统。他决定靠着由经济学家和计算机怪才所开发的一套神秘计算机算法，找出人类球探忽视或低估的球员，打造一支这样的赢球队伍。在守旧派看来，宾恩的算法根本是玷污棒球的神圣殿堂，令他们大感愤怒。他们坚决认为球员的选择是一门艺术，只有长期亲近棒球、相关经验丰富的人类，才有可能掌握。至于计算机程序，因为它永远无法懂得其中的奥秘和棒球的精神，永远都不可能学会这一套。

但没多久，这些人就只能满地捡眼镜碎片。宾恩用算法打造的这之低成本球队(4400万美元)，不仅能与纽约洋基队(1.25亿美元)这种传统棒球强队平分秋色，甚至还成为美联史上第一支二十连胜的队伍。只不过，宾恩和运动家队没能得意太久。很快地，其他球队也跟进使用同样的算法策略，而且由于洋基和红袜不管在球员或计算机软件上能砸的钱都远远胜出，现在像是奥克兰运动家队这种低预算球队，要能打败整个体制的机会反而又更小了。

2004年，麻省理工学院的法兰克.列维(Frank Levy)教授与哈佛大学的理查德·莫奈恩(Richard Murnane)教授发表一份关于就业市场的全面研究报告，列出最有可能走向自动化的职业。当时讲到在可预见的未来不可能自动化的职业，举的例子是卡车司机。他们表示，实在很难想象计算机可以在繁忙的道路上安全驾驶。但才不过十几年，谷歌和特斯拉不仅想象到了这一点，还正在促成这件事。

事实上，随着时间演进，不仅是因为算法变得更聪明，也是因为人类逐渐走向专业化，于是用计算机来取代人类愈来愈容易。远古的狩猎采集者光是想要生存下去，就得掌握各式各样的技能，也正因如此，想设计机器人的狩猎采集者难度非常高。这种机器人得要懂如何用燧石做出矛头，在森林中找到可食用的蘑菇，跟踪长毛象，与其他十几个猎人协调如何进攻，之后还得知道怎么用药草来包扎伤口。

但在过去几千年间，人类已经走向专业化。比起狩猎采集者，出租车司机或心脏病专科医师所做的事更为局限，也就更容易被AI取代。我已一再强调，AI目前绝无法做到与人类相似。但对大多数的现代工作来说，有99%的人类特性及能力都是多余的累赘。AI要把人类挤出就业市场，只要在特定行业需要的特定能力上超越人类，就已足够。

就连负责管理所有活动的经理，也可能被取代。例如Uber，就因为有强大的算法，只要几位人员，就能管理数百万的Uber司机。大多数的命令都是由算法自动下达，无须人为监督。2014年5月，专精于再生医学领域的香港创投公司Deep Knowledge Ventures(DKV)别创新局，任命一套名为VITAL的算法，成为董事会一员。VITAL会分析候选公司的财务状况、临床试验和知识产权等大量资料，据以提出投资建议。这套算法就像另外五位董事一样，能够投票决定是否投资某特定公司。

我们检视VITAL到目前为止的记录，发现它似乎已经学到了一项在高层的坏习惯：裙带关系。将较多权力交给算法的公司，就较能得到VITAL的青睐。例如在VITAL的支持下，DKV最近就投资了制药公司Pathway Pharmaceuticals;该公司采用一套称为OncoFinder的算法来选择及评估个人化的癌症疗法。

随着算法将人类挤出就业市场，财富和权力可能会集中在拥有强大算法的极少数精英手中，造成前所未有的社会及政治不平等。在今天，人数达到数百万的出租车司机、公交车司机和卡车司机拥有强大的经济和政治影响力，每个人都在交通运输市场中占有一个小小的位置。如果集体利益受到威胁，他们可以团结起来、进行罢工、组织抵制，形成重要的投票族群。然而，一旦数百万的人类司机都由单一算法取代，这一切财富和权力都将被拥有算法的公司垄断，再由拥有公司的那极少数几位亿万富翁放入口袋。

又或者，算法自己也可能成为所有人。人类法律已经能够认可公司或国家这种互为主体的实体，称之为“法人”。虽然“丰田”或“阿根廷”既没有身体、也没有心智，但都受到国际法的约束，都能拥有土地和金钱，也都可能在法庭上对他人提告或成为被告。可能在不久之后，算法也能得到这样的地位。这样一来，某一套算法就能自己拥有一个运输帝国、或是创投公司资本，而不必遵守任何人类拥有人的命令。

只要算法做出正确的决定，就能蓄积财富，再用来做自己认定适当的投资，或许正是把你的房子给买下来，由它当你的房东。而如果你侵犯了这套算法的法定权利(像是不付房租)，算法就会聘请律师，把你告上法庭。如果这样的算法绩效持续超过人类资本家，我们最后可能就得面对一个由算法组成的上层阶级，地球的绝大部分都在它们手上。在你觉得这实在是痴人说梦之前，请不要忘记，目前拥有大部分地球的正是各种非人类的互为主体实体，也就是国家和公司。事实上，早在五千年前，也是由恩基和伊南娜这种想象中的神祗，拥有着苏美的绝大部分。如果神祗也能拥有土地、雇用人力，为什么算法就不行?

那么，人要做什么呢?常有人说，艺术是我们最终(而且是人类独有)的圣殿。等到计算机取代了医师、司机、教师、甚至地主和房东，会不会所有人都成为艺术家?然而，并没有理由相信艺术创作能是个能绝免对于算法的净土。人类是哪来的信心，认为计算机谱曲永远无法超越人类?在生命科学看来，艺术并不是出自什么神灵或超自然灵魂，而是有机算法发现数学模式之后的表现。若真是如此，非有机算法就没有理由不能掌握。

戴维·柯普(David Cope)是加州大学圣塔克鲁兹分校(UC in Santa Cruz)的音乐学教授，也是古典音乐界极具争议的人物。柯普写了一些计算机程序，能够谱出协奏曲、合唱曲、交响乐和歌剧。他第一个写出的程序名为EMI(Experiments in Musical Intelligence，音乐智能的实验)，专门模仿巴哈的风格。虽然写程序的时间花了七年，但一完工，EMI短短一天就谱出5000首巴哈风格的圣咏。柯普挑出几首，安排在圣塔克鲁兹的一次音乐节演出。演出激动人心，观众反应热烈，兴奋地讲着这音乐是如何碰触到他们内心最深处。观众并不知道作曲者是EMI、而非巴哈，而等到真相揭露，有些人气得一语不发，也有人甚至发出怒吼。

EMI继续进步，学会了如何模仿贝多芬、肖邦、拉赫曼尼诺夫和史特拉汶斯基。柯普还为EMI签成一纸合约，首张专辑《计算机谱曲的古典音乐》(Classical Music Composed by Computer)出奇热卖。人红是非多，古典音乐爱好者的敌意涌现。奥勒冈大学(University of Oregon)的史提夫·拉森(Steve Larson)就向柯普挑战，来场人机音乐单挑。拉森提案，由专业钢琴家连续弹奏三首曲目，谱曲者分别是巴哈、EMI，以及拉森本人，接着让观众票选认定是谁谱了哪首曲子。拉森坚信，一边是人类的灵魂之作，一边是机器人的死气沉沉，观众肯定一听就能判断。柯普接下了战帖。在指定的当天，有数百位讲师、学生和音乐迷，齐聚于奥勒冈大学的音乐厅。表演结束，进行投票。结果呢?观众认为是巴哈的其实是EMI，认为是拉森的其实是巴哈，而他们认为是计算机的，其实是拉森。

还是有人继续批评，说EMI的音乐虽然技术出众，但还是缺了些什么，像是一切太过准确、没有深度、没有灵魂。但只要人们不知出处而听到EMI的作品，却又常常大赞这些作品充满灵魂和情感的共鸣。

EMI成功之后，柯普又继续写出更新、更复杂的程序：安妮(Annie)。EMI谱曲是根据预定的规则，而安妮则是靠着机器学习，会因应外界新的音乐输入，不断变化发展音乐风格。就连柯普也不知道安妮接下来会谱出什么作品。而且事实上，安妮除了写音乐，也对其他艺术形式很感兴趣，像是俳句。2011年，柯普就出版了《灼炎之夜：人和机器所作的俳句两千首》(Comes the Fiery Night: 2,000 Haiku by Man and Machine)，其中有部分是安妮写的，其他则来自真正的诗人。但书中并未透露哪些的作者是谁。如果你认为自己一定可以看出人类创作与机器产出的差异，欢迎挑战。

十九世纪，工业革命创造出庞大的都市无产阶级，这个新的工作阶级带来前所未见的需求、希望及恐惧。而到了二十一世纪，我们可能看到的是一个全新而庞大的无工作阶级：这一群人类没有任何经济、政治或艺术价值，对社会的繁荣、力量和荣耀也没有任何贡献。这个“无用的阶级”不只是失业，而是根本无业可就。

2013年九月，牛津大学的卡尔.佛瑞(Carl Benedikt Frey)及麦克.奥斯本(Michael A. Osborne)发表〈就业的未来〉(The Future of Employment)研究报告，调查各项工作在未来20年被计算机取代的可能性。根据他们所开发的算法估计，美国有47%的工作都属于高风险。例如到了2033年，电话营销和保险业务大概有99%的几率会失业。运动赛事的裁判有98%的可能性，收银员97%、厨师96%、侍者94%、律师助手94%、导游91%、面包师傅89%、巴士司机89%、建筑工人88%、兽医助手86%、保全人员84%、船员83%、调酒师77%、档案保管员76%、木匠72%、救生员67%，诸如此类。当然，也有一些工作还算安全。到了2033年，计算机能够取代考古学家的可能性只有0.7%，因为这种工作需要的模式辨识能力极为复杂，而且能够产生的利润又颇为微薄，因此很难想象会有企业或政府愿意在接下来20年间，投入足够的资本，将考古学推向自动化。

当然，到了2033年也可能出现许多新职业，像是虚拟世界的设计师。然而，此类专业可能会需要比现下日常工作更高的创意和弹性，而且如果是收银员或保险业务到了40岁中年失业，能否成功转职为虚拟世界设计师，也实在难说得准。而且，就算他们真的转职成功，根据进步的速度，很有可能再过十年又得重新转职。毕竟，就算是设计虚拟世界这件事，算法也可能会打败人类。所以，这里不只需要创造新工作，更得创造“人类做得比算法好”的新工作。

由于我们无法预知2030或2040年的就业市场会是什么样貌，现在也就不知道该如何教育下一代。等到孩子长到40岁，他们在学校学的一切可能都已经过时而遭到淘汰。传统上，人生主要分成两大时期：学习期、再加上之后的工作期。但这种传统模式很快就会彻底过时，想要不被淘汰只有一条路：一辈子不断学习，不断打造全新的自己。只不过，许多、甚至是大多数人，大概都做不到这件事。

由于接下来的科技发展潜力极其庞大，很有可能就算这些无用的大众什么事都不做，整个社会也有能力喂饱这些人、让这些人活下去。然而，能有什么事让他们打发时间、获得满足?人总得做些什么，否则肯定会无聊到发疯。到时候，要怎么过一天的生活?答案之一可能是靠药物和电动。那些对社会来说多余的人，可以多花点时间在3D虚拟世界里;比起了无生趣的现实世界，虚拟世界能够为他们提供更多刺激、更多情感投入。然而，自由主义推崇人类生命及人类体验神圣不可侵，这样的发展会是一记致命打击。这些人对社会毫无用处，整天活在现实与虚幻之间，这样的人命何来神圣?

像是尼克·伯斯特隆姆(Nick Bostrom)之类的专家和思想家就提出警告，认为人类大概还来不及经历这样的退化，因为一旦人工智能超越人类智能，可能就会直接消灭人类。AI这么做的理由，一是可能担心人类反扑、拔掉AI的插头，二是要追求某种我们现在还难以想象的目标。毕竟，等到整个系统比人类更聪明，要再控制系统有何动机，实在有如天方夜谭。

就算目前看来立意全然良善的程序，也可能带来令人恐惧的结果。有一套常见的剧本，就是某间公司设计出第一套真正的人工超级智能，给了它一个毫无恶意的测试，像是计算π值。但就在任何人意识到任何事之前，AI已经接管整个地球、消灭人类、发动攻击征服整个银河系，把整个已知宇宙转变成巨大的超级计算机，花上几兆兆年的时间，只为了算出更精确的π。毕竟，这正是它的创造者交给它的神圣使命。

尤瓦尔·赫拉利：新锐历史学家，牛津大学历史学博士，耶路撒冷希伯来大学历史系教授，著有国际畅销书《人类简史》   摄影/王晓东