王维强：认知安全是大模型当下最紧要的挑战

大模型的出现为AI行业带来冲击，既涌现出无限创造力与想象力，或许也会带来不可控、滥用的种种风险，如何统筹大模型的发展和安全自主化系统带来的风险是目前人工智能安全最明显的挑战。蚂蚁集团安全实验室首席科学家、大安全机器智能部总经理王维强在2024世界人工智能大会中接受第一财经访谈时表示，可信AI是数字时代抵御风险的核心能力，认知安全是大模型当下最紧要的挑战。在大模型安全可信方面要能长远地、体系化地保证整个系统环境的可控、可信。同时，他表示，在大模型安全系统建设中，仍需要花很多时间和行业做共建。