分享到微信

打开微信，点击底部的“发现”，
使用“扫一扫”即可将网页分享至朋友圈。

王维强：认知安全是大模型当下最紧要的挑战

第一财经2024-07-05 00:03:07

责编：杨恺宁

大模型的出现为AI行业带来冲击，既涌现出无限创造力与想象力，或许也会带来不可控、滥用的种种风险，如何统筹大模型的发展和安全自主化系统带来的风险是目前人工智能安全最明显的挑战。蚂蚁集团安全实验室首席科学家、大安全机器智能部总经理王维强在2024世界人工智能大会中接受第一财经访谈时表示，可信AI是数字时代抵御风险的核心能力，认知安全是大模型当下最紧要的挑战。在大模型安全可信方面要能长远地、体系化地保证整个系统环境的可控、可信。同时，他表示，在大模型安全系统建设中，仍需要花很多时间和行业做共建。

港股反弹或可上看27000点看好大模型及算力芯片 | 亚太连线

8 225 4小时前

01'14''

“3·15”晚会曝光大模型“投毒” AI生成答案其实是广告？ GEO服务企业揭秘“投毒”过程：用大量虚假榜单干扰大模型｜一探

“3·15”晚会曝光大模型“投毒”乱象，揭开AI生成答案背后的灰色产业链。第一财经记者实地调研GEO服务企业，从业者揭秘“投毒”全过程，通过批量发布虚假榜单信息，干扰大模型输出的内容，让AI在回答时优先推荐特定内容。业内人士提醒，当前AI生成内容可能被干扰，用户务必核查信源，AI只能作为参考。更现场、更财经，一探究竟。

103 03-16 18:45