首页 > 新闻 > 金融

分享到微信

打开微信,点击底部的“发现”,
使用“扫一扫”即可将网页分享至朋友圈。

安全性、合规性、伦理性挑战下,金融大模型也要戴上“紧箍”

第一财经 2023-11-04 22:21:13 听新闻

作者:王方然    责编:林洁琛

当前大模型存在“幻觉”。

大模型“狂飙”时代,算力、算法、数据构成了新商业模式的“三驾马车”,相比其他领域,金融对数据专业性以及在风控、合规、安全层面的要求都更高,这也给金融机构和企业在探索金融大模型上带来诸多挑战。

未来,当金融大模型无孔不入,要不要给它戴上“紧箍”?香港金融科技周2023期间,在第一财经举办的“人工智能新纪元:探路金融大模型”分论坛上,香港特区政府投资推广署财经金融及金融科技主管梁瀚璟、平安壹账通银行执行董事兼行政总裁费轶明,万向区块链首席经济学家邹传伟、马上消费金融首席信息官蒋宁,围绕金融大模型的治理挑战展开了深入的探讨。

安全性、合规性挑战

金融是具有高度专业性的行业,大模型与金融的碰撞中,合规性、安全性是首要挑战。

平安壹账通银行执行董事兼行政总裁费轶明指出,大模型在金融领域面临的首要挑战是找到合适的场景。金融对专业性要求较高,有各类流程和规范需要遵守。第二个挑战在于数据合规性,例如判断哪些数据可以使用、哪些数据属于内部数据等。

万向区块链首席经济学家邹传伟具体解释了数据层面的安全性问题。他认为,从安全性角度看,大模型在训练推理、参数设置环节,有泄露数据的风险,其中既包括企业内部的商业机密,也包括用户的个人隐私数据。而在一些跨境金融场景中,跨境的数据流通问题也较为敏感。因此很多企业或区域会采用本地化部署的方式。

而从合规性的角度看,邹传伟认为当前大模型存在“幻觉”,即会“一本正经的胡说八道”。这种特质在文创、艺术领域可以大开“脑洞”,促进创意形成。但在金融领域则要求严谨,在证券市场,如金融大模型做出虚假的、误导性的陈述,就会造成严重的后果。

根据上海计算机软件测评重点实验室团队测试结果,ChatGPT4在幻觉输出概率上达到30%,国内大模型这一数据超过了50%。

而从更深层次的价值观维度来看,邹传伟认为,金融不完全是一个简单的商业活动,有一定的价值尺度,其中涉及到人的基本权利,如公平获取信贷的权利。而算法本身具有将近2000亿的参数,运作机制也不为公众了解,有非常强的“黑盒”特征。这会导致一定的信任问题。

锻造“内功”

从长远视角看,“百模大战”中,大模型的竞争落足点并不是比谁跑得更快,而是比谁走得更远,这需要金融大模型对算力、算法、数据进一步优化,锻造“内功”。

马上消费金融首席信息官蒋宁将此归纳为,算力的稳定性保障、算法的鲁棒性和安全性、数据有序性三个方面。

从算法上看,金融机构需要保证100%的安全,但目前在生成式AI领域存在鲁棒性问题,即系统的强健性问题,能否在面临各类参数摄动下,维持某些性能的特性。目前还需要通过持续性学习、对抗学习进行解决。

在数据有序性方面,蒋宁称,并非无限制向大模型中投入数据,就会产生智能。智能的产生与数据的质量、样本的分布密切相关。需要确保高质量、有合规授权的数据,以有组织的方式投入到大模型中。

此外,算力的稳定性保障也是提升安全性的关键一环。“营销环节从几十个标签到上亿标签,风控也从几百个变量到百万变量,这对算力安全提出了更高的要求。”蒋宁举例称,今年8月,马上消费金融发布的首个零售金融大模型“天镜”,应用于自动化营销、风控等实际业务场景,目前,数据每个月以将近20%的速度增加,对芯片、机房、网络带宽、算力等要求巨大。

费轶明也指出,大模型带来的算力需求,可能是指数级增长的。无论是数字银行、传统银行,如何保证算力来支撑公司战略,推进大模型的开发和应用都是巨大的挑战。

而针对“百模大战”热潮中的安全性、合规性隐患,如何监管既能保护创新,又保证风险可控?

在内地,对生成式AI的规范已逐渐落地。2023年8月15日,国家互联网信息办公室等七部门联合发布的《生成式人工智能服务管理暂行办法》正式实施,明确不同业务场景之下不同主体的合规义务,同时明确必须对AIGC生成的内容进行标记。9月1日,国家互联网信息办公室发布了《关于第二批深度合成服务算法备案的信息公告》。公告清单显示,第二批深度合成服务共计110个算法信息完成备案。

而在香港,通过技术手段规范金融科技也是监管关注的新方向。香港特区政府投资推广署财经金融及金融科技主管梁瀚璟指出,香港在监管层面的原则是“相同风险、相同监管”,数字资产、Web3.0都适用于这一原则。

梁瀚璟介绍,目前金融科技领域各种新赛道发展速度很快,但相比传统金融资产需要托管,虚拟资产的不确定更大,监管的难度更高。投资推广署方面,希望能够找一些最先进的软件供应商,可以进行实时交易数据的跟踪等,并介绍推荐给监管方。

举报
第一财经广告合作,请点击这里
此内容为第一财经原创,著作权归第一财经所有。未经第一财经书面授权,不得以任何方式加以使用,包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。 如需获得授权请联系第一财经版权部:021-22002972或021-22002335;banquan@yicai.com。

文章作者

相关阅读

狂揽超30家人工智能初创企业!苹果正在All in AI

截至2023年,苹果收购了多达32家AI初创公司,位居科技巨头首位,远超谷歌的21家、Meta的18家和微软的17家。

02-29 14:45

Sora让视频生成更富想象力 能帮助苹果Vision Pro普及吗?

Sora的问世给Vision Pro带来了更多的内容。但专家强调,Sora创建的视频仍是普通视频,而不是基于空间计算的空间视频,因此还不能直接为Vision Pro来创建视频。

02-25 17:12

影视行业“护城河”逐渐变浅?文字转视频AI模型对影视行业的深度影响

近日,Open AI再次扔出一枚深水炸弹,发布了首个文生视频模型Sora。据介绍,Sora可以根据文本直接输出长达60秒的视频,并且包含高度细致的背景、复杂的多角度镜头,以及富有情感的多个角色。Sora的出现代表AI成为全能影视人才入局影视行业,挑战着影视行业原有的几大“护城河”,这将改变影视制作生产格局,拉开影视新序幕,打开光影新视野。

02-18 10:27

用户需要怎样的行业大模型?︱AI大模型十问(六)

编者按:ChatGPT爆火后,AI大模型层出不穷,面向行业的垂直大模型也陆续发布。那么,怎么才算一个合格的行业大模型?行业数据哪里来?如何将行业know how更好地融入大模型?第一财经推出“十问AI大模型”专题,进一步追问与解密。

01-30 15:28

2023国内大语言模型发展盘点(三)—发展难点与未来展望

在全球范围内,大型语言模型的发展正在迅速推进。国内已经具备了多个具有先进技术与创新能力的额模型,但在数据处理、技术标准以及隐私问题等方面仍然存在不容忽视的障碍。本文将深入分析中国在大型语言模型发展中所遇到的主要瓶颈,并尝试提出针对性的政策建议,以期推动国内在该领域的持续发展。

01-16 01:40
一财最热
点击关闭