外滩大会AI十问：未来AI的智能进步可能遵循怎样的规律？人类如何跟AI抢工作?

“生成式AI”狂奔近两年，AIGC与人类、产业乃至世界的联系正在不断加深，未来AI的智能进步可能遵循着怎样的规律？AI会怎样影响到产业，又会如何和人类抢工作？

在2024 Inclusion·外滩大会，关于AI的产业落地、人文思考贯穿着各场演讲、论坛讨论、媒体采访等环节，记者整理了2024年外滩大会来自业界、学界各位大咖的“AI十问”，在这一年，人们对AI的未来想象更为清晰，乐观犹存，更多需要思考的问题也正被看到。

AI的智能进步遵循着怎样的规律，未来将会怎样发展？

“互联网之父”、著名未来学家、《连线》杂志创始主编凯文·凯利谈到了这个“极其重要但难以回答的问题”。“没有确切的答案”成为凯文·凯利的答案。他提醒，OpenAI、微软、Google等都押注在大语言模型，业内相信如果我们不断地扩大语言模型的规模，人工智能就会变得更聪明，但事实上，这更多是一种直觉，未经认证。

凯文·凯利表示，现在的人工智能只擅长回答基于已知事实的问题，类似大家上学时读了一大堆书而显得无所不知的聪明学生，但它们并不擅长提出新问题，也无法进入未知的领域。未来，人工智能能否进行复杂的多步思维链、回答未知的问题，是业界需要尝试寻找答案的一项重要问题。

AGI是否存在泡沫？

应用突破是中国通用人工智能技术（AGI）发展的关键，但目前AI真正的大规模落地应用、大众化的产品仍未出现，大模型公司大多在亏本烧钱，引发了“AGI泡沫”的担忧。

百川智能创始人、CEO王小川在外滩大会否认了“AGI泡沫”的说法，他认为目前大模型的发展从结果上看是符合行业预期的，他提出，为了推动大模型迈向下一个发展阶段，关键在于实现两大融合：一是将知识搜索与大模型相结合，二是大模型强化的结合。

MiniMax创始人、CEO闫俊杰则认为，AGI的发展还需要耐心。他表示，如果模型错误率可以下降到个位数，那么模型就是一个可信赖的状态，AI也有可能从助手变成一种生产力，这种变化会带来真正大众化的产品，为行业带来本质的变化。他期待通过技术的优化来拓展AI的边界。

未来AI可能超越工具属性，获得意识，甚至建立AI文明吗?

“人工智能就是人类文明的下一个阶段。我们正在通过人工智能重塑人类文明，从而创造出一种新的文化。在这种文化中，我们将不再是唯一的物种。”凯文·凯利表示，人工智能并不能像人类一样思考，他们有着不同的思维方式，有点像飞机一样，飞机并不会像鸟儿那样拍打翅膀，而且飞行的方式完全不像动物，人类曾经尝试通过仿生学来制造像鸟一样飞行的飞机，但未能如愿。同理，人工智能被设计成模仿人类思维，但是机器思考的方式截然不同，这意味着，这样不同的思考方式能让AI产生出不寻常的想法和答案。

复旦大学计算机科学技术学院教授、上海市数据科学重点实验室主任肖仰华则表示，人类与其担心AI产生意识，不如先去担心AI过速发展引发失控的风险。他认为，AI的大规模应用足以从根本上改变人类文明的基本面貌。而AI技术的大规模滥用足以在其发展出意识之前，摧毁一个文明千百次。但人类目前对此所思甚少，更谈不上防患未然。

AI大规模应用可能给人类生活带来哪些具体挑战？

肖仰华表示，挑战首先在于我们的生产关系等社会发展上层建筑，如何适应以人工智能为代表的先进生产力的快速发展。他认为，生成式人工智能技术发展已经需要以月为单位进行记录，但是人类的情感、价值、伦理观念调整是十分缓慢的。如何调和这个矛盾，是我们需要直面的挑战之一。

其次，技术普惠问题同样值得关注。肖仰华认为，如何避免少部分人借助先进技术形成不正当的竞争优势需要被关注，此外，还应该特别注意防范技术成瘾，防止先进技术对人类造成反噬。

那么，AI对人类社会是利大于弊，还是弊大于利呢？

凯文·凯利表示，他很明确AI将给人类社会带来全新的问题，AI可能给人类社会带来最大的挑战，甚至比气候问题还要严重。例如未来人可能对人工智能产生强烈的情感依赖，存在潜在风险。

“但AI的发展总体是利大于弊的。”凯文·凯利认为，过去五百年的普遍趋势是人类每年创造的价值总要比毁掉的多1%，他预测，人工智能带给社会的正面影响不会比负面影响多很多，但只要多一点点，就能够推动社会的进步。

如何加强AI治理？

中国工程院院士吴世忠认为，AI 治理可以“以史为鉴”。他表示，人工智能的治理和过去的核控、疾控都是人类发展历程中的“奥本海默时刻”。在这个过程中，我们作为人类命运共同体，能够借鉴的经验很多，比如国际合作和多边协议以及透明度和信任机制的建设等。但与此同时，我们也要根据人工智能的特点，更加科学地进行治理。

联合国人工智能高层顾问机构专家、北京人工智能安全与治理实验室主任、中国科学院自动化研究所研究员曾毅则强调，人工智能的安全和能力不是相互掣肘的关系，对人工智能的治理并不意味着AI能力的减弱和发展速度的减缓，系统的鲁棒性（在面对各种输入情况时，能够正确运行且不出现错误或崩溃的能力）、自适应与安全也是人工智能的能力。未来，人工智能系统风险防范要从被动式转变为主动式，从防御性转变为建设性。此外，人工智能需要从合乎伦理到具有道德。

AI时代如何重新思考人机关系？

“计算机几十年的发展路程里，真正的赢家是做人机交互的。不管是什么技术，最后的目的都是帮助人类更好地使用机器”，香港科技大学校董会主席、美国国家工程院外籍院士沈向洋表示。他认为，AI为人类提供了与技术共生的全新语境，人机交互的新方式指向“AI与IA”的融合共进。IA（Intelligent Augmentation），即智能增强，代表着一种以人为本的 AI 发展路径。它聚焦于运用技术提升人类的能力，而非取代人类，强调了人类与 AI 之间的协作关系。

肖仰华则表示，随着脑机接口与AI技术的广泛应用，机器已经成为人类的外脑、人类的四肢，人不再是传统生物意义上的人。他表示，智能时代，人将变成哲学家尼采笔下的“超人”，即自我超越的人。只不过这种自我超越，将是在机器智能等外力工具协助下完成的。

“与之伴随的是，人与人之间的社会关系也将随之发生变化，AI将成为人类从事各种生产和活动的代理。人与机器之间的关系、机器与机器之间的关系，将不可避免地纳入到我们对社会关系考察范围”， 肖仰华说。

人类如何跟AI抢工作?

北京大学助理教授、北大-银河通用具身智能联合实验室主任、智源学者王鹤表示，可能就像马斯克讲的一样，地球上应该有100亿人形机器人，每个人都应该被人形机器人服务，这些人形机器人不是抢了人类的工作，而是为人类更好地服务。

凯文·凯利则谈到，迄今为止的证据表明，真正因为AI失去工作的人非常少，整个比例可能在80亿人中700个都不到，比起因AI失业，未来更多人的工作角色会因AI发生变化，转向监督AI，接手AI无法解决的复杂问题。“作为年轻人要尝试做用语言解释不清的工作，比如一项需要你花整整半个小时向你的父亲解释你在做什么的工作”， 凯文·凯利建议，这意味着这项工作站在了时代的最前端，还没有完全被定义。

哪些行业可能最先看到AI对它们的影响和变化？

凯文·凯利认为，金融和医疗领域会最先看到变化，因为这两个行业信息密度高。此外，广告和营销行业也会是最早受到影响的行业之一。

蚂蚁集团总裁兼CFO韩歆毅表示，金融行业已经高度数字化，医疗领域也沉淀了高价值的数据，在这两个领域，AI能够针对专业领域做训练，又具备强大的通识、理解和沟通能力，有机会带来专业服务的普惠。

如何应对人工智能在产业落地中的不确定性？

机器学习领域的泰斗、美国“三院院士”迈克尔·乔丹谈到，人工智能在产业中的落地需要形成互相协作的集体。他认为，人工智能不仅要在单个设备上体现智能，更要通过协同在整体系统层面上体现智能，比如，现代信息技术在医疗、交通、金融科技和商业领域的应用，需要集体性、去中心化的智能系统，但如今的人工智能并不具备。

迈克尔·乔丹表示，当前的 AI 系统很难表达它真正学到哪些知识，也没有能力表达它有多确定，他认为，人类在集体协作时能够更好地应对不确定性。如何让AI系统也具备类似的集体协作能力，是一个关键问题。