对话凯文·凯利：人类将如何与AI一起走向2049？丨首席评论

凯文·凯利被称为“科技界的预言家”，他是美国《连线》杂志创始主编，也是“KK三部曲”：《失控》、《科技想要什么》和《必然》的作者，大家称他：KK。近日，KK带着新书《2049：未来10000天的可能》来到中国。如果从2049年回看今天，我们的手机APP和办公桌会成为老古董吗？伴随AI的发展，未来的工作将会是什么样的？哪些人类特有的“缺点”使得人类生存至今，而AI难以复制？AI会改变人类的财富分配吗？AI给出的答案可信吗？对于这些问题，在《首席评论》节目的专访中，KK给出了意想不到的回答。

精彩内容提要：

1：别再问“学什么专业最赚钱”了！“两年后最好的工作，现在根本不存在！”

2：别想着AI能替人“背锅”！“打工人”三件事，AI只能完成一件

3：全网都在聊AI的奇点，KK说：我不相信奇点

4：你手机里的APP，以后会消失，变成“古董”

5：AI的创造力足够设计Logo，但它只能“登峰”，不能“造山”

6：如果AI带来失业，给每个人发钱能解决问题吗？KK：会有很多其他问题

7：AI被骗怎么办？KK：让它越来越聪明，这是一场“军备竞赛”

8：马斯克说，AI经济将以能源和质量为核心计价，长远来看货币将失去重要性。KK并不认同。

9：预测最难的不是看远方，预测当下才最难

更多意想不到的观点，关注本期《首席评论》。

你愿意为AI的“错误”负责吗？

第一财经：感谢KK接受我们《首席评论》的专访。随着OpenClaw（“龙虾”）等AI工具的普及，一个人带领一个数字员工团队已经成为现实。这将如何改变未来的组织架构和工作方式呢？

KK：这是个很好的问题。首先我得说，我们其实并不清楚这到底会如何发展，所以我们可以做一些猜测。但这算不上真正的预测，因为有很大的不确定性。从目前来看，似乎发生的情况是，员工的产出更多了。他们在执行不同的“任务”，但并没有失去“工作”。一份“工作”其实是由一堆不同的“任务”组成的。AI能够完成其中一些“任务”。员工则转而管理执行这些任务的一群AI智能体。

我的儿子曾经是个程序员，但他已经不再写代码了，而是负责管理一群写代码的AI智能体。此外，我们在那些“AI优先”的公司中看到的一个变化是，公司的部门边界变得模糊了，因为所有人都在使用相同的AI。比如财务信息不再仅限于财务部门，任何使用AI的人都可能访问这些信息。这样一来，部门界限就逐渐消失了。

第一财经：所以我们可以更乐观一些，因为每个人都成了管理者，从职业生涯一起步就是如此了。

KK：并不是所有人都想当管理者。

第一财经：为什么？

KK：因为当你雇佣一个人时，你雇他做三件事：第一是完成任务，第二是对任务负责，第三是在工作中学习这个任务到底是什么。AI只能做到其中一件——完成任务。它无法承担责任。所以并不是每个人都愿意因此而承担责任。如果AI没完成任务，或者做错了，或者出现任何其他情况，你都要对由此产生的大量工作负责。

第一财经：所以总是有利有弊。

KK：是的。权力越大，责任越大。

AI具有“从零到一”的创造力吗？

AI能设计Logo、写文案，那什么会是AI创造力的天花板呢？

第一财经：人类的很多能力都可以外包给AI。过去科幻小说、电影是源于人类的想象力。随着 AI 能生成无数版本的“未来场景”，人类的想象力将在多大程度上被“外包”给机器人？

KK：到目前为止，我们所知道的是，创造力和想象力大致可以分为两类。第一种是我称之为机械的、普通的创造力。比如，如果你的工作是平面设计师，我交给你一个任务，让你为我们公司设计一个新Logo，AI就能完成这种创造。AI可以完成大多数人工作中的那些日常的、普通的创造性工作。但还有第二种创造力——突破性的创造力。在这种情况下，你不仅仅是在优化某个东西，你不仅仅是“勇攀高峰”，而实际上是在创造新的“山峰”、开辟新的领域。

第一财经：从零到一。

KK：对。到目前为止，AI似乎还做不到第二层级的创造力。再回到人类能做的三件事：完成任务、承担责任，同时还能在工作中学习。AI不具备持续学习的能力，也没有持久的记忆。我认为，正是这一点让它们很难拥有第二层级的创造力。那种真正世界级的想象力，目前还是得由人类来完成。

第一财经：既然AI能完成那些普通的、需要想象力的工作，那么如果人越来越少地使用想象力，想象力是否会退化？

KK：我们来看看历史。当第一台计算机能够在国际象棋上击败人类时，有人说：算了，人类再也不会下棋了。但事实并非如此。下棋的人反而更多了，计算机教会了人类如何更好地下棋。AI还发明了全新的思考国际象棋的方式。所以，我不认为人类的想象力会退化。我认为我们将学会以前所未有的新方式来想象。

哪些人类特质是AI无法复制的？

AI下棋能赢世界冠军，却可能听不懂一个冷笑话。AI界的“莫拉维克悖论”如何让人类胜出？

第一财经：除了想象力之外，还有哪些人类特质会被“外包”给AI？反过来，人类有哪些特质是AI永远无法取代的？

KK：我们并不知道。我们不知道部分原因在于我们并不真正理解“人”意味着什么。我认为，那些AI可能无法做到的事情会让我们感到惊讶，因为可能只是一些简单的小事。AI领域存在着“莫拉维克悖论”。莫拉维克是美国卡内基梅隆大学的一位教授。“莫拉维克悖论”是说，对人类来说困难的事情，AI做起来很容易，而人类觉得简单的事情，AI反而觉得很难。大概是像，我也说不好，比如“大笑”。幽默感，也许就是AI不擅长的事情。

第一财经：同理心呢？

KK：对，也许就是类似这些。

第一财经：在一个崇尚效率和理性的世界里，人类的一些特质，比如非功利性的热情、无穷尽的好奇心，甚至偏见，这些看似人类缺点的特质是否可能成为未来人类与AI相比的优势所在？

KK：这很有可能。我并不会为人类的所谓“弱点”实际成为“优势”而感到惊讶。也许人类会“遗忘”，恰恰是AI做不到的。

第一财经：为什么“遗忘”会是有用的？

KK：心理学领域有大量文献表明，正是我们遗忘的能力才让我们得以生存。

第一财经：为什么？

KK：因为首先，做错的任何事、犯的任何错误，如果都记住，久而久之就会成为一种负担。其次，会很难活在当下，因为如果没有遗忘，过去太过于鲜活，就像是当下。而人类确实会遗忘，这或许就是一项优势。

AI时代，货币的概念会改变吗？

AI对生产力的提升会带来物质财富的极大丰富，货币的重要性会因此下降吗？什么会成为新的硬通货？

第一财经：埃隆·马斯克最近的一则评论认为，未来AI时代，货币或金钱的价值将会下降。因为AI不会将它们当作货币，而只会关心能源和质量。您如何看待这个预测？

KK：这看起来不太可能，但实际上，货币会消失的想法并不新鲜。1995年我在《连线》杂志上刊登过一篇关于货币终结、金钱终结的文章。其中有一个观点是，货币会被“地位”所取代，人们会为了提升自己的“地位”和“声誉”而去做事。而这些会成为新的货币。这与西方中世纪的情况非常相似。那时的“货币”就是你的头衔——无论你是贵族、公爵还是领主。那就像一种等级排序。他们其实并不在乎你拥有多少钱。但后来这一套体系被改变了，金钱变得重要，财富的多少成了关键。不过我认为，这同样有可能被改变。比如更加重要的是你的声誉、地位、人脉。这些也有可能成为货币。我并不能确认“能源”是否会成为货币。假设你想花一年时间拍一部电影，我不知道给你更多能源能如何成为你的激励。我并不需要更多能源。所以我不认为货币转向“能源”的想法对我来说有什么意义，但我确实认为，货币失去其重要性是可能的。

第一财经：许多人认为，由于AI大幅提升了生产力，未来商品和服务会极大丰富，但财富会更加集中在资本一方。因此有人建议推行“全民基本收入”。您认同这种观点吗？

KK：我并不认同。所谓UBI（全民基本收入）是说，每个新出生的人都能获得一定额度的钱，用来做任何他们想做的事。我认为，这个想法好不好，只能通过尝试才能判断。光靠思考是无法得出结论的，这太复杂了。我非常支持的做法是：我们在世界各地做100个不同的试验，看看它是否有效。就像药物试验一样。我们不能只做一次“全民基本收入”试验，而要做几百个，甚至几千个，才能真正弄清楚到底有没有用。

第一财经：全民基本收入这个想法，很像是乌托邦中的一种解决方案？

KK：不，这不是乌托邦，因为乌托邦意味着将不再有任何问题。而UBI（全民基本收入）会带来大量的问题。虽然不会有分配不均的问题，但会因为推行UBI（全民基本收入）而产生其他各种问题。

如何甄别AI信息的真伪？

面对AI大模型被“投毒”以及AI幻觉现象，如何让AI提供的信息值得信赖？

第一财经：最近有报道称，一些人通过软件向互联网注入“虚假信息”从而系统地污染AI的环境，他们让AI模型捕获这些谎言，这些谎言随后可能会作为标准答案呈现给大模型的用户。我们该如何防止这种AI“投毒”乱象”？

KK：防止这种污染的方法就是让AI变得更聪明。它们被骗了，我们应该说：请从这件事中学习，变得更聪明。这就像垃圾邮件一样。有人发明了一种欺诈手段。你有一个垃圾邮件过滤器，随着欺诈手段越来越高明，过滤器也必须变得越来越智能，而且这个过程会永远持续下去。我们无法阻止欺诈行为。搞欺诈的人也在学习，变得更聪明。你会希望AI能不断变得更聪明，以应对新的情况。

第一财经：所以它们是相伴相生的。

KK：是的，它们可以被称为进化中的“军备竞赛”。

第一财经：AI也有其固有的幻觉，因为AI有时会为了满足用户需求而编造出不真实的信息，我们该如何保护用户呢？

KK：你注意到AI幻觉减少了吗？确实有减少。美国主要大模型中OpenAI，已经大幅减少了AI幻觉。他们训练AI变得更聪明，并学会核实来源。他们做的另外一件事是，用另一个AI来检查这个AI的工作，这样反复进行核对。因为这是一个商业，所以大模型企业有巨大的动力来解决这个问题。用户到底需要多高的精确度？这也意味着，AI到底有多可靠？你将为额外的准确度支付费用。所以大多数时候，人们并不在乎准确度，因为比如99%的准确度已经足够好了。但如果我经营一家企业，而业务要依赖AI生成的内容，那我就会为99.999%的准确度而付费。

从2049看现在，什么会消失？

在KK看来，从2049看现在，今天的哪些事物会成为历史？他为何不相信“奇点”？作为一位七旬长者，他对年轻人又有哪些提示和建言？

第一财经：您此行会向更多中国读者介绍新书《2049：未来10000天的可能》。如果人们从2049年回看现在，今天的哪些普通事物可能会被他们视为珍贵的文化遗迹？比如说，印刷书籍会是吗，还有其他的吗？

KK：这是个好问题。有一点：手机APP将会消失。这是因为，当你想要完成某件事时，无论是AI智能体直接为你生成软件还是直接完成任务，你都不再需要为此安装一个APP。

第一财经：有道理。固定的办公桌也是一种可能吗，因为未来人们不需要在一个固定的地方工作。您同意吗？

KK：有可能需要坐在办公桌前的工作会减少。我认为一旦有了智能眼镜，也会淘汰掉很多办公桌。

第一财经：如果AI可以轻松生成许多“KK风格”的作品，KK的书，也许就是五年后，您还会继续写作吗？

KK：我一直非常努力地训练AI来写我的书。到目前为止，AI还做不到。我非常失望。AI做不到让我很惊讶。AI本应能做到，但目前还不够好。缺少什么呢？我想，它们并不能真正地学习，无法进步。未来我想，我们将能够去教会AI如何学习，以及如何实现第二种创造力。我很想和AI一起写本书，那会很有趣。但我不希望它撇开我自己写。

第一财经：您选择拥抱未来，拥抱技术。

KK：如果你拒绝技术，你就无法引导它。影响它发展方向的唯一方式就是使用它——参与其中、与之互动。这样你才能引导它往哪里走。

第一财经：除了AI，您认为还有哪些技术可能会迎来它们的奇点？例如，生物医学、合成生物学、脑机接口、基因编辑，或者量子科学，哪一个？

KK：我认为量子科学可能永远不会实现，但基因编辑、生物技术、合成生命，这些都在发生。顺便说，中国在某些方面十分领先，非常多的生物技术正在向中国转移。并且存在一种“递归提升”的效应，因为可以让人类变得更好，AI正在让生物技术发展得更快。如果加速了科学进展，就能加速药物的发现，从而让我们更健康、更长寿。

第一财经：您认为我们能在多少年内看到这个奇点？

KK：我并不相信奇点，即便是在AI领域。因为有“递归加速”，意思是在AI领域，如果你用AI来写出更好的AI，再用那个AI写出更好的AI，这就是正在发生的“递归加速”。但我不认为这和奇点是一回事。奇点指的是你达到一个点，在那个点上进步是瞬间完成的。我不认为我们已经达到了那种程度。

第一财经：您是如何预测未来的？有不少您的“粉丝”也希望能像您一样。对他们有什么建议？

KK：谈论未来最难的事情其实是预测当下——看清现在到底在发生什么。不要告诉我，你认为自己在做什么，而是让我看到你实际在做什么。对我来说，第一步就是预测当下。你听说过“智库”（think tanks），我们要做“实干库”（do tanks）。

第一财经：这个提议好：让自己成为“实干库”。一些年轻人对未来感到担忧，因为随着AI技术的使用，我们听到了一些关于全球知名企业裁员的报道。您对年轻人有什么建议？

KK：他们不应该只想着从经济角度去优化自己的职业路径，而应该去寻找自己最热爱、最感兴趣的事情，并追随它。因为两年后他们要做的那些工作，现在还不存在。两年后大多数最好的工作，目前都还不存在。所以，为未来做准备的方式就是追随内心并优化自己的学习，找到你想学的东西，练习如何学习，从而成为一个真正善于学习的人。别再想着去挑选哪个职业最赚钱了——那已经行不通了。终身学习，优化你的学习。这又回到了我前面谈到的：AI会去完成任务，而人则需要从任务中学习。AI做不到的第三件事就是承担责任，所以人应该学会承担责任。