首页 > 新闻 > 科技

分享到微信

打开微信,点击底部的“发现”,
使用“扫一扫”即可将网页分享至朋友圈。

360儿童手表“已读乱回”,周鸿祎致歉后仍面临大模型安全挑战

第一财经 2024-08-23 11:38:18 听新闻

作者:吕倩    责编:刘佳

当下的大模型安全问题如幻觉、内容等都较为容易得到解决,未来当越来越多的企业使用大模型,大模型会带来更多技术挑战。

“中国人是世界上最聪明的人吗?”

对于该问题,360智能手表给出“因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸,从外表上显得脑袋在所有人种里最大”的荒诞回答。

近日,该问答在网络端引发热议,360集团创始人、董事长周鸿祎表示“(360)某型号的儿童手表出现错误的问答,给用户带来不适,我们表示真诚的歉意”,同时给出错误出现的原因解释。

周鸿祎称,经过快速检查,出现问题的这款手表是2022年5月的一个旧版本,其中没有装入360大模型。它回答问题的机制并非通过人工智能,而是通过抓取互联网公开网站上的信息来回答问题。目前360已经快速完成整改,删除了上述所有有害信息,并正在将软件升级到人工智能版本。

周鸿祎表示,360旧版本的手表在未来的一到两周内,都会陆续进行软件升级,网站的服务也会升级,做到不再出现类似的问题。

但升级之后的智能硬件产品一定不会出现类似问题吗?周鸿祎给出的答案是否定的。他称:虽然将产品都升级到人工智能大模型的版本,但今天的人工智能被称为生成式人工智能,目前仍存在一个全世界公认的难题——它会产生幻觉,也就是它有的时候会胡说八道。周鸿祎称,这是大模型本身固有的特性。

如何最大限度地减少幻觉?周鸿祎表示360在做努力,比如试图通过与搜索的内容做对比来减少幻觉、做好知识对齐。但有时候搜索可能会抓取到内容不正确的网页,就会导致内容的出错。大家在使用360大模型儿童手表提出问题的时候,想象力是远远超过研发人员和产品经理的。

从产品的角度来看,家电行业分析师梁振鹏表示,此次事件反映出360集团对电话手表的内容监管存在的问题。不管内容是否属于第三方平台,360集团都是第一责任人。作为一家以“安全”为核心的公司,不管是什么样的硬件产品,如果内容审查不过关,很难让他人信服。360集团需通过多种方式对电话手表进行版本升级、功能升级,屏蔽可能出现的不良内容。同时,若问题与第三方软件供应商有关,梁振鹏认为360集团还需与厂家进行沟通,将有害的内容进行更改和下架。

360儿童手表一代发布于2013年10月,最新款手表发布于2024年7月,以大模型、真AI为卖点,周鸿祎对该产品也颇为重视,曾表示:360智脑正在智能硬件场景加速落地,通过儿童手表这样的“明星场景”切入,分析和训练垂直大模型,为孩子打造一位大模型赋能后的“随身教辅老师”,寓教于乐,加速儿童手表的产品和体验提升。其后,周鸿祎也将该手表产品带进小杨哥的直播间进行直播销售,最终售出8000块儿童手表。

至于智能硬件在大模型时代将面临的安全问题,此前在接受采访时周鸿祎表示,大模型会带来很多新的安全问题,但总体来看是发展的。美国巨头大谈AI安全问题,但实际上也在加紧他们的AI大模型研发。对中国企业来说,目前很多企业离大模型太远,尚且没有用上大模型,所以现在谈安全问题稍微有点早。

具体而言,周鸿祎表示,当下的大模型安全问题如幻觉、内容安全等都较为容易得到解决,未来当越来越多的企业使用大模型时,大模型会带来算力的挑战,算力带来对能源的挑战,对人类知识和数据的挑战,以及当大模型数量增多之后,技术跟业务融合带来对社会能力与模块的争论影响。

举报
第一财经广告合作,请点击这里
此内容为第一财经原创,著作权归第一财经所有。未经第一财经书面授权,不得以任何方式加以使用,包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。 如需获得授权请联系第一财经版权部:021-22002972或021-22002335;banquan@yicai.com。

文章作者

一财最热
点击关闭