首页 > 新闻 > 要闻

分享到微信

打开微信,点击底部的“发现”,
使用“扫一扫”即可将网页分享至朋友圈。

Deep Debate:人工智能,你能颠覆谁? | 2017第一财经技术与创新大会

第一财经 2017-05-23 16:09:00

责编:王艺

人类的智慧在哪些领域是能够被机器替代?哪些领域有可能会被颠覆?人类的未来究竟是更乐观还是更悲观?未来是否是一个机器人的社会呢?
Deep Debate:人工智能,你能颠覆谁?|2017第一财经技术与创新大会

主持人:

鲍勇剑 复旦大学管理学院EMBA特聘教授、加拿大莱桥大学管理学院副教授

对话嘉宾:

张强 张强医生集团创始人,中国医生集团联盟主席

杨兴平 自然道公司董事长、CEO,多普达智能手机创始人

戴文渊 第四范式创始人、首席执行官

徐立 商汤科技CEO

赵斌 大成律师事务所高级合伙人

石波 上海尚雅投资管理有限公司董事长

文字实录

主持人:今天在现场剩下最后的一场我们的论坛,在论坛过后将会进行现场的特别的抽奖环节,将会为大家送出来自第一财经的特别的福利,这个福利只有第一财经才会有。

很多人说人工智能将会代替律师、医生、基金经理等等,我们今天特别邀请到了国内顶尖的人工智能的专家和顶级的专业人士来辩论一场。人类的智慧在哪些领域是能够被机器替代?哪些领域有可能会被颠覆?人类的未来究竟是更乐观还是更悲观?未来是否是一个机器人的社会呢?所有这一切将会在今天,我们设立了一个新环节Deep Debate,在深度讨论会当中将会跟各位一起分享。

让我们有请张强医生集团创始人、中国医生集团联盟主席张强,自然道公司董事长、CEO,多普达智能手机创始人杨兴平,第四范式创始人、首席执行官戴文渊,商汤科技CEO徐立,大成律师事务所高级合伙人赵斌,上海尚雅投资管理有限公司董事长石波。

有请主持人复旦大学管理学院EMBA特聘教授、加拿大莱桥大学管理学院副教授鲍勇剑先生。

鲍勇剑:现场的自然人和机器人观众,欢迎来到你能颠覆谁这个座谈会。在我们行业里面的是专业人士,但是最难判断的是张强医生,他早就想以冷冰冰的人工智能替代白衣天使。在座的看客,今天只是一场戏,但是对于我们从事教师、医生等从业人员,是事关身家性命。名不正言不顺,我们现在先从人工智能的开始,我们了解到第一次机器人的出现是出现在戏曲节目当中,人工智能这个词第一次出现1956年,半个世纪已经过去了,到底什么是人工智能,什么是智能机器人,先听听专家的定义。先从文渊开始。

戴文渊:关于人工智能我自己的定义是这样看的,实际上一切机器人做决策的系统都是叫人工智能,包括我们认为很强的人工智能,甚至是很多人不认为是人工智能的一些手机APP,我认为都是。只是有的是强人工智能,有的是弱人工智能,现在还有说法说超人工智能。

鲍勇剑:决策按照文渊的理解,是驱动人工智能与否的标准。我们听听徐立的意见。

徐立:人工智能要去看导演、编剧,因为对于人工智能的认识都是从电影上来的。我原来是做视觉处理的,视觉公司的分支突然有一天我们被告知你们是人工智能公司,需要怎样怎样。从我的角度来说,我们可能觉得从业者做的人工智能和普罗大众认识的是有差距的,所谓的普罗大众认识的人工智能是编剧作品中的幻想想做的人工智能,而我们认为的是更高效的工具。

鲍勇剑:有一点我们可以肯定,商汤今天派来的CEO一定不是人工智能和机器人,因为这种大内高手的对人工智能的定义,把人工智能的定义交给了导演,这不是一般的伟大。我们听听兴平兄。

杨兴平:我从1985年参与了人工智能的学术研究,今天借这个机会给大家捋一下人工智能产生的阶段,最初的想法是通过电脑模拟人的脑神经细胞怎样进入决策、怎样进行思维怎样进行判断的,但是发现没办法做到那一点。所以放弃了最初AI的初衷。第二个阶段是从七几年到九几年,这几十年的时间,那一段时间主要是在系统,我有幸地参加了一个系统项目,怎样把核反应堆应用到宇宙飞船。我们希望它能够飞行几十年的时间,最好有一个原子能驱动它。这里面没有人,所有的东西是要自动化还要智能化。当时更多想到的是把自动化智能化,就是全自动化,除了对核反应堆的系统进行了解,还要怎样设计,设计一个自动控制系统,同时设计一个专家系统。这方面我们花了很多的精力,还有美国国防部的投入。

鲍勇剑:定义起来不容易,综合几位专家的看法,我们差不多看到人工智能和智能机器人和决策相关。有一位教授说什么是人工智能,就是让机器智能化,什么叫智能化?就是举止得当,对于环境有应对能力,有了这三个条件就可以判断什么是人工智能,什么是智能机器人。

公元前490年,希腊的普罗泰戈拉就提出一个问题,开运动会时投标枪的选手不小心伤了人,是标枪的责任,还是使用者的责任,还是举办运动会的责任。同样的问题,也落在了人工智能的上面,自动驾驶出了问题,是谁的责任呢?

赵斌:这是很好的问题,我想任何一个新的东西产生的时候,会对社会产生什么样的影响,会有责任怎样承担的问题。人工智能至少我认为它还是一个产品,虽然我们讲它很高大上,说它类似于人的智能,但是我觉得它还是一个产品,产品的话你产品质量有问题那就要承担产品责任。

刚刚好上周五,德国有一个新的立法叫《自动驾驶法》,国会刚刚通过。它在里面有一个有意思的规定,就是将来自动汽车里面要有一个黑匣子,就是记录是谁在操作的,是人踩油门还是机器踩油门,通过分析黑匣子的数据然后判断谁来承担。我理解如果那时人工智能起作用的话,不一定人工智能承担责任。

鲍勇剑:始作俑者是谁,是人工智能的作用,还是自然人踩的刹车还是没有踩刹车,听上去就是为大公司打工的,它没有说有可能是汽车公司的责任,几位人工智能的专家,怎样为人工智能的法律责任做解读,文渊?

戴文渊:实际上机器有一个问题在于,机器不知道什么是对是错,它只是技术本身。在我看来,因为人工智能可能会犯罪然后导致限制技术的发展,而我们可以选择犯错代价比较低的场景去做。人工智能最开始做是在广告领域里面做,因为它犯罪成本低,顶多就是看一条你不喜欢看的广告。像金融、医疗、无人驾驶的领域的时候,金融还好一点,医疗要谨慎,但是我们可以寻找某种方式,比如说和医生的结合,当然可能是我们想把责任推到医生头上。无人驾驶我们也在寻求说怎样在一个不太容易产生很糟糕场景的结果下先去尝试,这种场景下,我们可以先让人工智能推动他们前进。未来怎样,责任谁对谁错,我觉得可以等到产品成熟到一定程度时再说。

鲍勇剑:责任的乒乓球已经开始来回打起来了,有人说我们应该从责任较低的领域和步骤开始循序渐进。特别是医疗这一责任重大的领域,我们还是应该仔细思考定夺,然后再考虑是否进行。这一块正好有一个医疗界的叛徒,我们的张强医生,他做的工作就是怎样以人工智能替代医生。来听听为什么张医生愿意冒这么大的责任率先进入无人区。

张强:我也是很分裂,经常参加辩论,有时候在正方,有时候在反方。

人工智能在医疗领域的应用已经开始,最主要的时候人工智能在医疗的每个环节,比如说在诊断的环节,决策的环节以及治疗的环节,这三个环节当中实际上诊断的环节已经开始了,最有名的就是IBM的沃森计算机。沃森的诊断水平已经超过了美国平均医生的水平,然后它又参加了美国医学院二年级的考试,它自己有一个自我学习的能力,它的学习能力已经到达了医学院二年级学生的水平。所以这点来讲,人工智能未来的发展,其实在临床不断的实验当中,其实它的诊断,在诊断领域已经是准确度越来越高,包括影像的图片,还有疾病的图片。基于图片识别的技术发展非常快,我认为未来在医疗领域有一些颠覆,甚至是可以取代我们医生一部分的工作。

鲍勇剑:判断、判断,人工智能最重要的能力是在于如何支持决策者的判断。回到医疗责任上来,假如在人工智能进行医疗过程中出现了失误,那人是不是要为人工智能来承担某些责任?

赵斌:人工智能并不可怕,法律体系完全可以把这些问题容纳到里面,谁生产了产品,产品出了质量问题你要负责任,那法律都有清晰规定。假如以人工智能继续诊断,如果诊断错了,那么无外乎就是说第一个如果人工智能是医院去问第三方购买的产品,那么首先肯定医院得承担责任,因为你是帮病人看病的。但是从内部来讲,医院可以回过头去追究人工智能公司的责任,我是这么看的。

鲍勇剑:说到人工智能需要烧很多的钱,在座也有投资行业的专家,从投资的角度,怎样看人工智能的风险来做选择,哪些该投,哪些不该投,这方面石波有什么样的考量?

石波:现在投资界对于人工智能的应用还是在尝试阶段,属于辅助手段。在量化部门量化交易有一些算法、模型来进行量化交易。在过去有一个看法,现在由于金融市场的数据它是完美数据、完美信息,量化交易的话,就是我认为市场很理性的,那人工智能或者是量化交易就会战胜基金经理。但是在金融市场的话,它不是完全理性的,它是反映了人性,人性是有很多的贪婪和恐惧在里面。所以我觉得这是现在人工智能在金融领域的决策和应用方面还是作为一个辅助或者是尝试的工具。

鲍勇剑:刚才石波说不管人工智能的算法多么地快速、多么地强大。那么最后还是抵不过人性的复杂性,从人工智能的专家来说,怎样制造出同样应对更高复杂的人工智能。

徐立:石总讲的金融方面的应用,我觉得人工智能还只是工具,并不只是大家想像的那样更多像人一样的思考。在金融行业的应用,我觉得肯定会有一些突破,会带来超过人的准确率,性能比人好。我们一直认为人工智能,或者是现在叫人工智能工具,在行业应用的条件就是是否超过人,作为生产工具超过人就会铺开,带来效率。如果哪家好的项目超越人能赚钱他就好了。所以在金融行业里面,突破是悄无声息发生的,因为它渐渐地把一些基金管好。

鲍勇剑:人工智能永远有两派意见,一派说人工智能真的会思考吗?人工智能只是做信息处理。另一派意见说什么是思考?思考就是信息处理吗,所以人工智能的专家说头脑是什么?头脑就是肉做的计算机。从人工智能能否思考甚至能否超越人的角度,让我们回到有人格分裂特征的医生,站在医生的角度来说为什么人工智能无法超越自然人的医生。

张强:我被主持人搞得很分裂啊,不知道是哪一派的了,但是我觉得我应该坐到那边去。我觉得我们人工智能的专家太保守,不敢想不敢做,现在还只是说是我们的工具。人工智能可以取代,我以前辩论时就在想这个问题,人工智能能够有情感吗?能够有一些对人类语言背后的一些不符合逻辑的东西它能够进行分析吗?比如说我晚上要看电影,它不会问我说你要看电影吗?如果是直接问我你要看电影吗?我觉得可以取代。它如果说你晚上有什么安排吗?我说要看电影,这能解决吗?

嘉宾:可以解决。

张强:那就是说90%的人类,尤其是中国人,实际上还是数据,蛮直接的,可以分析的。还有这种“小作”能够通过大家的数据判断背后的内容,那情感能否判断?现在美国已经有人研究了,人抑郁状态时,并不一定都从你的感性方面认识的,它就发明了可穿戴设备。所以人在抑郁时语言减少,动作减少,通过大数据分析得出你的抑郁指数,这里面人工智能已经参与到人类的情感里面去。

鲍勇剑:坐在我右边的自然人还是机器人我无法保证,坐在我左手边的,仅靠左手边的这一位一定是自然人,这是我可以保证的。如果是机器人,他绝不会说我太太有一点点上海人的小作,今晚我们就知道他有什么样的待遇

让我们右手边的也调到左手便的边的思维来看,人、自然人、机器人,人工智能和机器人到底有没有区别?其我们研究人工智能的很多作品专家,比如说有一位专家说过,如果有一个中国房间,那人工智能和外面控制的人可以让中国房间里面的机器人似乎都懂得汉字的所有内容,但是能够进行汉字的识别和应用,但是不能够体验汉字的字里行间,背后的故事是什么?我们拜托右边的专家也支持人工智能的这位专家所提出的中国房间的假设,说明人工智能永远有那么点差距。

杨兴平:房屋的事情我没什么了解,我举一个继续做的例子,就是作为股民,第一财经的主题今天是人工智能,你能颠覆谁?我举一个例子,我们分析了几十万个股民的交易数据,我们发现中国的股民会放一个错误,追涨不止损,重复犯,而且比例非常高。尤其是我们分析了股票的风险和市场风险和交易行为风险,我们发现行为风险是主导的,最后行为风险超过了股票和证券市场的风险,这里面的原因是什么?是因为股民会非常情绪化,通常我们涨了不舍得卖,跌了不舍得买,有一个情绪化在里面,但是这时恰恰用自动化交易系统就能控制人的问题,这不是一个决策的问题,也不是做多少计算的问题,是一个情绪的问题。要去赌博的话,要去追涨不止损带来巨大的风险。用了人工智能以后,会极大地降低我们行为风险。这从金融的角度,应该说已经颠覆了,而且这个例子不止我们自然道一家。美国早年有一家自动化的交易系统他们最颠覆的是人的行为的风险,克服人的情绪的风险。

鲍勇剑:兴平又恢复了人工智能专家的属性,一定可以颠覆。

杨兴平:这是一个例子。

鲍勇剑:让我们回到文渊,人工智能和人之间还差一点,到底在哪儿?

戴文渊:我觉得人和人工智能这完全是两个东西,我们先不考虑人和机器的问题,说说人和狗的问题。比如说我们家那条狗识别我爸,我爸走到楼下他就识别出来,这是每个人长得不一样,气味不一样。人脑是慢的,人是总结、归纳、提炼,而机器不用。我就把所有的细节死记硬背,然后一个一个地细节地处理,所以其实关于说机器、人工智能有没有情感,其实对人工智能来说都不重要,它只关心我要解决什么问题,我以什么方式解决,回到您刚才所说的问题,就是人工智能怎样识别人在讲或者是理解人在讲什么话?现在有一个领域研究什么呢?就是让机器学习去忘记,我们怎样读《红楼梦》,为什么我们读到这句话时有情感,因为我们有上下文,而机器没有情感,他读第一个字都记得,怎样让机器理解人,让机器怎样忘记。

鲍勇剑:我越来越怀疑坐在我身边的是自然人或是机器人,文渊,你也不是狗,你怎么知道狗不是用眼识别的呢?回到我旁边的,医生正在觉醒,认为一切人可以行动的,人工智能都有可替代性,总有一批人说人工智能不可能替代自然人。有一位人工智能的专家说“从人工智能的角度去看,人工智能有的只是储存器,但是人在进行思考,人的思考是全面的,整体;机器的思考是线性的、逻辑的。机器、人工智能永远是在用逻辑、统计概率处理信息;而人有直觉、有情感,所以这个角度上,他们认为人和人工智能之间一定是有些许差距。所有人的活动中,超不过医生、律师、投资的作用,那听听石波从投资的角度来说,哪些判断和决策他可以做,而人工智能很难模仿和复制?

石波:人工智能是一个类人的智能,人工智能到目前这样一个阶段,还是人造的一个机器人,它是被动的,所以它只是一个算法或者是一个模型。它只能被动地反应这个信息的录入和信息的处理。但是人还具备一些其他的机器很难学会的东西,比如说人的创造力、人的信仰、人的观念,人的情商,这些方面机器是不能以数字来计算的,这个方面比如说情商、比如说你的灵感,这些是机器很难复制的。所以现在目前机器能够复制的是有逻辑的,能够量化和计算的行为还有方法它可以复制,但是思想是很难的。

鲍勇剑:听到这里,心里最不服气的一定是商汤的徐立,因为它公司的名字叫,SenseTime,感性的时间,来问问徐立,人工智能可以有宗教信仰吗?

徐立:突然到了哲学的问题。我开始讲到人工智能和人的区别,AI化,讲到信仰的问题也是同一个问题。在人的一生当中,人是变动的,比如说戴教授,小时候没有想到当教授,但是到现在觉得真的是有口才,在中间是可以指点江山,这是变动的。

包括刚才张教授学做医生,学了大半年以后我突然想当律师,但是机器不会,机器还是在特定的目标情况下完成特定的任务,而人会渐渐调整自己的目标。所以这点来看,刚才讲人工智能更多的是工具,是因为在指定的任务下能够超越人的所谓的能力。回到刚才讲到的有没有宗教信仰,你让它有就有,并且在信仰上做得更好,比如说我可以以机器学习来学习佛经的道理,但是你让他学完佛经,他不可能成为基督教的信徒,这就是人和机器人的区别。

鲍勇剑:人信了佛教就不会同时信基督教,听上去解释是只要你有双核的电脑,人工智能既可以信佛教也可以信基督教和其他的。电脑之父第一次设计下棋的步骤时,当它挪动一步用了90分钟,而阿尔法狗今年一秒钟上亿次,换言之人脑永远比不上电脑。来问问医生和律师,除了速度方面,电脑比我们人脑有优势以外,人脑在哪些方面是电脑不可替代的

赵斌:最早我对人工智能的关注是由恐惧来关注的,人工智能都能做律师的工作了,它能做什么工作了?比如说写法律合同,你告诉他你想做什么公司,比如说想投资一家公司,目标公司是什么,我想以什么条件做大,它可以瞬间几秒钟给你把报告写出来。它还可以什么?问一些法律问题,我做什么事情不是违法,这些都是很简单的,都是几秒钟清晰地回答,甚至都可以做到预测。我们打官司最关心的是这个官司能否打赢,你现在就是有人跟你说你碰到的这个案子,在哪个地方审理的,它可以告诉你这个案子大致的结果是怎样的。当时我看到这个是挺害怕的,我一大把年纪了马上要失业了,而且朋友圈流传一个外企的法务人员后来失业了找工作很难找。

我想必须研究一下,研究了以后我发现了我们律师事务所很有远见,朋友圈经常看到有一个法律机器人,就是我们事务所投资的。我们事务所还是很有远见做这个事情,然后我就了解这个机器人能够做什么呢?这个事情发生在2015年,当时除了一家律师事务所,现在有大量的律师事务所在用,我了解下来反而有信心了,它也算是我们公司的产品,它就是能干什么事情呢?你可以用自然语言问它问题,它可以迅速地找到最贴切的,在美国主要是判例,它能找到一个判例结果当中最相关的那段话展现出来给你,甚至现在它可以做到,它可以形成法律分析报告给你,可以给你几个不同的观点,告诉你主流的观点是什么。你说这个能力听起来很不错,但是对我来说我看了以后是欣喜若狂,我就需要这样一个助理,它给我做助理我觉得很合适。我们现在请一个助理要花很多的事情,并且我们现在很多的事情,比如说我最近这两天做跨境并购的事情,卖家给了我们他二、三十年的大量的资料,我们律师就人工地看材料,需要花大量的时间,如果有一个机器人把这些合同的要点提炼出来,我的效率就可以提高很多倍。

鲍勇剑:赵律师是不管人工智能怎样发展,永远是我们的助理,请我们的医生以正反两个分裂的角度来看看医生为什么可以替代,为什么医生不能被替代。

张强:我先说律师,律师可能会被替代,因为按它很多数据化的,情感方面的因素比较少。

徐立:其实机器很难替代人,但是律师、医生、投资人大部分人都是可以替代的。

张强:医生是不可能替代的。

徐立:但是它肯定替代不了律师这个职业,我刚才讲假设它辩论这个事情,假设我跟他辩论,它辩论是否能赢过我,大家觉得可能。在律师辩论的事业,可能机器更好。那律师可以干什么?双方律师谈判可以喝茶,机器人来谈,然后机器人弄完律师可以签个字。我们也是销售,出去谈判每次都说你那个价钱多少,压底线,而完全可以机器管机器谈,双方的代表喝个茶,律师的职业还是在,但是功能是削弱的。

鲍勇剑:待会儿徐立你从右边的门出去,赵律师最好从左边的门出去,两个不要碰面。

张强:讲对了2/3,律师是可以被人工智能取代掉,医生是不能取代的。因为我是外科医生,一个人血管断掉,血喷出来的时候用人工智能把它堵住?另外我在香港学的机器人操作,再怎样的机器人,医生的操作手是取代不了的,所以医生取代不了的。

鲍勇剑:发动专家斗专家,这是人工智能干不了的活,只有我们自然人可以干。我们继续发动专家斗专家,刚才徐立说律师最后就变成了茶童了,那么赵律师,您有什么话说?

赵斌:我听话很生气,真的,待会儿我们分开走。我们办公室就在这个楼里面,我在这儿就是地主。(笑)

我觉得刚才徐立讲的是有道理,我觉得它可以帮我干一部分活,但是不能替我所有的活,客户不可能为我喝茶付钱。我归纳一下,律师的工作分三个层面,一种是项目谈判的工作,我天天做成本低交给我来做。另外有一类业务是经验性的业务,客户经常会问这个事情你做过没有?你找我肯定会说这个业务做过没有?这就是典型的希望你曾经干过这个活,这就是经验性的业务。经验性的活的特点是有一部分被标准化,还有一部分是非标准类。第三类我叫它是智慧型的业务,这就需要律师创新的,其实我觉得投资人很多人都很熟悉,我们有一个VIE的结构,就是海外上市的结构,这个结构谁来搞?你让机器人绝对不可能搞,是律师发明的。

鲍勇剑:濒危失业的律师为自己提出了三条辩论理由,第一效率、第二经验、第三个悬乎地说到智慧,回到自然人的角度,这三条能否替代?

杨兴平:从自然规律的角度来看,其实我觉得机器永远不可能提代替人,只有可能将人不需要重复做的工作交给机器人来做,是擅长机器人做的事情。比如说法律方面的条款制订,它是在一定的价值观念、道德观念的基础上制订的,这是机器很难做的工作。比如说医生,不是简单治一个病,只是怎样让我们的人生活更加健康、更加幸福甚至不得病。从道法自然的角度来讲,这就涉及到怎样从普世价值或者是人生的哲理,从这个角度就需要几千年、几万年这样一个过程才能形成的。我们怎样做到道法自然,怎样理解天人合一,这不是机器人可以理解的。我认为这些绝不可能被机器和人工智能代替的

鲍勇剑:左边的医生说一切人可以被替代,只有医生不能被替代。文渊,从你的角度医生可以替代的。

戴文渊:我只赞同一个观点机器不能替代人,但是机器也能做某一些工作,机器会有一件事情做得比人好,就是机器模仿人,就是逼近人或者是超越人,不可能比人太像,其他所有的事情机器都没有可能超过人。机器下围棋的方式和人下围棋的方式不一样,机器不是模仿人下围棋,是以自己的方式下围棋超越了人。对于任何专业的工种和技能,机器都有可能利用自己超越人,只有一种可能不太超越,很难用一个机器演人更像人,比如说护士,我需要人的护士,你给我送一个机器的护士不能解决问题。但是其他的问题,我觉得机器都可以超过人。

鲍勇剑:张医生,你的工种变成护士您将不会被替代,这是刚刚文渊提出的观点。

张强:我也在思考这个问题,我们人类到底有多么高级,就是一对男女走在一起眼睛一亮,就是这种气场,突然触电的感觉,不知道人工智能能否体验到。

但是在医学来讲都有数据的,在眼光一亮的那时候,肾上腺素是增加的,血压是有改变的。机器基于这些数据的话,也有可能两台计算机之间突然产生这样的东西。我们的人工智能的专家,我觉得还应该更大胆一点,就是不要说是专家的工具。通过人工智能,自己也是马云的那句话跟律师相似,马云说三十年以后很多医生没工作,吓到我了。我就开始学习大数据、人工智能也在学,所以我现在的感觉就是刚才说的,过去对人工智能的认识只是一个数据的逻辑分析,现在已经深入到神经网络还有深度学习,这是我们过去不可想像的,实际上还有第三波的人工智能,这第三波进来更接近人的思维和行为模式,至于什么东西我不知道。

鲍勇剑:按照张医生的说法,人工智能可以替代人,一切人的活动是可以数据化的,两个机器之间一见钟情也是可能的。那从双方的讨论之中,我们认识到起码在目前的这一波只要是规则化的人的活动,只要是重复性的人的活动,只要是对于互动性要求较低的人的活动,只要是非标程度比较低的人的活动,它都有可能被替代。换言之效率有可能被替代,换言之经验有可能被替代。所以我们在讨论人工智能是否能够被替代的时候,从技术性的问题就变成了社会和哲学的问题,就好像人工智能的有一位专家曾经说过,他说“能够和应该是两个不同的命题。”文渊刚才也提到过,一切都可以替代,但是有些归属人做的事情  应该人去做,这位教授在集中营有过受苦受难的经历,他的看法是人工智能和自然人之间要有文化的界定,既然机器能够用,那些法庭上的判断,涉及到道德、直觉、情感的活动都应该由人去做。

戴文渊:实际上在我看来,可能我们会觉得,假设人工智能干了一些事以后,应该还是有一些角色,到最后可能是道德上界定责任的问题,就并不一定是干这个事情。但是背后总得有人背黑锅,让机器背黑锅,最后就算它撞死人判车的刑也没用。

鲍勇剑:好在今天的主持人不是机器人是自然人,听得出文渊的字里行间有一些不在乎的语气说,我们会留一些工作给自然人。从这个角度来说,人工智能替代人的趋势是不可避免的。但是不要忘记,像那些矿业、造纸的利用自然资源的时候,政府都有规定,当他们利用这些资源时,他们要退耕还林,做还原和复原的工作,用同样的逻辑来看对自然人和社会人工作的替代,他们有还是没有这个法律责任,要为替代了的人工的工作创造新的工作机会,我们听听律师的意见。

赵斌:做律师我们现在有律师协会,还有政府机构,你人工智能做律师你有执照,无证经营肯定也不行,立马让你关门、罚款,搞不下去。而且我们还要考司法考试,但是我怀疑机器考试比我们有优势。所以我建议,规则是人定的,将来你通过律师司法考试你需要辩论的能力很强,对于机器能不能辩论我持怀疑,像鲍老师这么厉害的辨手是不可能的,尤其是两台智能机器人辩论,到最后有一台就冒烟了。

鲍勇剑:律师说得很好,就是说所有的律师是可以被替代的,但是有幽默感的律师是不可能替代的。律师也提出很重要的话题,就是对于人工智能的治理问题,搬出司法局、司法机构,都是给在座的专家一个暗示,人工智能有风险,对于人工智能的社会管理、治理和控制风险的角度,三位专家有什么看法?

杨兴平:其实无论是人工智能还是别的高科技,其实它都会有它正面的效应和负面的效应,因为我经历的另外一个行业是原子能,当时我们做的时候更多强调正面的做法。当1945年第一颗原子弹制造成功后来投放在广岛后,人们发现它有巨大的负面的效应。我觉得互联网、人工智能都有这样的问题。问题不在技术本身,问题根源还是在于人,人自身它能不能有效地控制这样一些科技手段应用,就不能走极端。所以我最后的结论,我认为无论是人工智能还是别的东西,都不能绝对化,它是相对化,而且我相信它的智能不可能超越人的智能,这是毫无疑问的。只不过是将一个自动化、信息化的东西智能化,将很多不需要人做的重复的,或者是高速度、高效率做的事情我们需要人工智能来取代。但是作为人来讲,我们更多地是要寻求本身人应有的价值。说实在的,现在社会让人忙于各种各样的工作、琐碎的事情,确实人工智能能够帮很多的忙。

鲍勇剑:说到风险,没有比风险专家更了解风险的,听听做投资的石波对人工智能过程中出现风险应该怎样控制?

石波:风险就是所谓它会失控,如果人工智能或者是人的意识和知识储存在机器里面,然后是否会出现写算法的算法,写软件的软件,就是人的异化,但是会失去控制。这个方面可能需要在人工智能发展之前就要进行一些风险的防范,然后提前做好一些管制。今年1月份也有AI23条规则,规范人工智能的发展路径,就是先把这个达成一些原则和共识,对风险防范会更好。

鲍勇剑:石波很敏感,所有的风险当中不仅仅是人的异化的问题,还涉及到人工智能异化的问题,换言之人工智能不仅仅是中性的技术,是有正效应也有负效应。因此带出来的相关的话题就是谁到底拥有人工智能,换言之人工智能创造的剩余价值,是不是只归右手的三位所有,还是所有的自然人都应该看到人工智能的公共属性,在他们创造的价值中获得利益。人工智能是否真正私有化还是具有公有的属性。

徐立:现在讨论这个问题太远,从技术的角度来说,包括刚才讲到手术能否机器人来做,这是一个辩证的趋势,现在的趋势绝对可以通过工具完成的。但是人工智能带来的问题是怎样解决好现有定义好的问题的情况下,人和工具怎样做结合。目前我们处的阶段就有一个第一次工业革命,机器超过人的样子。并不是我有一个车跑的比人快,我撞到是车的责任,还是人的责任。而应该探讨的是怎样与工具做结合,比如说像医生,医生未来做的事情就是治病,你以人工智能的事情做分析、指导,然后反向帮助医生看看其他层面的信息,看看是否更早期地解决这样一些问题。阿尔法狗是可以反地指导棋手下棋,我们讲的道德问题也好、管理问题也好、智慧问题也好,我觉得从现在技术人员的角度来看,是一个非常远的问题,目前我们自己一个超越普通人的阶段,只有超越普通人才能大范围地铺开,第二个是超越专家的阶段,专家的经验不能获取,就像张教授的经验不能简单地传给机器,比如说他自己的专业经验需要很长时间的积累,并且算法演进才能超越专家的知识。

鲍勇剑:我们问起很关键的资本问题,即人工智能创造的剩余价值,是否要分一杯羹,我们分一下文渊。

戴文渊:每个企业创造的剩余价值都是服务全社会,不管是做人工智能还是不做人工智能,企业都会上税,国家就是在调节说你赚太多了我帮助你平均其他人。假如有一个人工智能的公司,做出一万亿的机器人,每个机器人都为我们打工,然后这家公司赚到了很多的钱,国家收它20%的税,然后平均分给所有的人,然后把他们全都养活,那不是解决了整个共产主义的问题。

鲍勇剑:说的非常好,问一下两位人工智能的投资企业,一位是石波领导的,一个是文渊领导的,他们对人工智能的剩余价值如何分配,都给出了各自的回答,您会投资哪家企业?

石波:我觉得人工智能和历史上的技术进步都是一样的,它会使社会资源往优势企业去集中,所以我觉得要抓住新一次科技文明,就像20年前互联网革命出来的时候,你去投资这些互联网的企业,现在就是它财富会转移,现在数字鸿沟已经出现,以前各行各业都有很多大的企业。现在互联网出来,不管是美国、中国,美国是前5家IT企业,中国是阿里巴巴、腾讯在集中,下一个时代我们觉得人工智能会颠覆上一次科技革命创造的价值,所以谁能抓住浪潮,谁就能够分享这个剩余价值。

鲍勇剑:所以是我的错,去问自然人的资本家如何分配社会资本的问题,这怎么可能找到合适的答案呢?这是资本家的本性。如果我们可以想像一下让机器人生产,让自然人玩耍,那就是文渊说的共产主义就实现了。从这个角度上去看的话,那人工智能的发展和社会发展相互之间是有很多重叠和互补的可能性。

通过今天的讨论,我们发现就像早期人工智能的幻想家阿西莫夫曾经提出人工智能的三定律:不可伤害人、听人的话、保全自己。通过两方的深度讨论,我们得出第一财经深度对话的人工智能的三个原则:第一原则就是要以人为本,人是万物的尺度,人工智能必须为人服务。第二个替代的应该更新,社会职业被人工智能替代以后,要提供更多的自然人的职业,这样的原则应该得到社会的肯定和推荐。第三个允许让一部分机器人先犯错误起来,在犯错误的过程中,不断地改进。

今天的话题是人工智能您颠覆了谁?我们带着这个恐怖的题目开始,到讨论结束才发现颠覆设计人工智能应该有的思维,人工智能给我们出了一个难题,我们同样也可以给人工智能出一道难题。佛经中我们经常听到有十万八千条寄语,悟出其中的一条,你就是悟道成佛了。我们给人工智能出一道难题,未曾生我谁是我,生我之时我是谁?人工智能真的悟不出吗?悟出佛经中这条寄语的这个人工智能长得是什么样子呢?预知后事,请大家关注2018第一财经技术与创新大会,感谢各位,明年再见!

主持人:谢谢!感谢该环节参与的6位嘉宾,也感谢鲍教授的精彩主持!刚才我们和各位讨论的是谁会替代谁,谁不能被谁替代的问题,在我看来其实真的是非常简单,如果真的脑洞大开一下,自然人以后都有一个附属的机器人,让这个机器人挣钱,你自己享受生活就可以了,所有的问题就全部解决了。比如说鲍教授将有一个您的附属机器人,让它来主持我们的论坛,说不定以后主持人工智能的话题时,是7位机器人坐在台上讨论问题。

举报
一财最热
点击关闭