奇安信董事长齐向东：AI带来的网安新挑战，用AI解决

“人工智能+”和 “数据要素×”两项行动正在加速推进，并持续赋能新质生产力快速形成。在这一过程中，网络安全面临新的挑战。其中，人工智能所带来的安全问题最受关注。当前，“饱和式”攻击、深度伪造、数据投毒等安全新风险，严重冲击了原有的网络安全防线和安全体系。

“‘数据要素x’碰上‘人工智能+’，数据的流通速度会更快、规模会更大、通过的节点会更多、价值会更高，也带来了三大安全新挑战。”奇安信（688561.SH）董事长齐向东近日在以“释放数据要素价值 发展新质生产力”为主题的第七届数字中国建设峰会上接受采访时表示。

一是人工智能打破了攻防平衡，数据要素既是目标也可能成为“毒药”。“人工智能大幅降低了网络攻击门槛，不懂代码和技术的普通人也能成为黑客，网络攻击数量大增。专业的黑客组织还能利用人工智能对攻击进行升级改造，数据既是重要攻击目标，也能被用于发动网络攻击。”齐向东称，比如黑客可以通过数据投毒、对抗样本、模型窃取等多种方式攻击AI算法，使其产生错误判断，由于算法黑箱和算法漏洞的存在，这些攻击往往难以检测和防范。

二是人工智能加大了数据非法获取、数据泄露以及恶意滥用等安全问题。员工向ChatGPT等生成式人工智能“投喂”数据，可能导致数据被动泄露。国外研究机构有数据显示，ChatGPT等生成式人工智能导致网络钓鱼邮件攻击增长了135%。生成式人工智能大模型在对话交互过程中还能获取用户数据或输出训练数据，带来数据泄露及恶意滥用等安全问题。

三是人工智能扩大了攻击暴露面，数据要素流通风险激增。当前，企业数据在终端、应用、云上、数据中心侧之间流转，链路非常复杂，提高了边界和接口的管理难度，导致访问者的身份难以辨认、行为难以管控，黑客能披着合法的外衣做坏事，很难及时捕捉安全风险，增加了数据泄露的机会和攻击面。

而解决这些棘手的安全难题，创新发展“人工智能+安全”是解药。“未来人工智能给我们带来的影响是正还是负，取决于当下我们如何培养和训练它。如果培养得当，人工智能将会带给我们应对新时代、新挑战的‘最优解’。”齐向东表示，做好“人工智能+安全”，关键要从提高防护效率入手。

以数字政府领域为例，齐向东认为，从技术层面看，破解人工智能给数字政府带来的安全挑战，要做好两件事。

一是用人工智能驱动安全，为数字政府打造高效、智能的安全防护能力。“比如，我们把传统的深度学习、机器学习等AI技术，以及大模型技术赋能到安全场景和安全设备中，可以更高效地分析和检测安全威胁；去年发布的QAX-GPT安全机器人，能把告警研判效率提升到人工的60多倍，有效应对‘饱和式攻击’。 ”

二是用安全护航大模型落地，确保AI应用安全，为数字政务提质提效。“奇安信的大模型卫士，能提供从大模型应用发现、合规和安全风险评估，到处置溯源的完整风险管理手段；我们还创新形成了AI安全整体应对方案，能保障好大模型全生命周期的安全，让广大政府机构放心地向人工智能要生产力。”

据悉，奇安信通过自主研发的数据存储平台，积累了包括样本库、网址库、漏洞库和安全图谱数据库在内的海量安全数据，安全数据规模居于全国首位，并且还在持续增加，为AI赋能提供了坚实基础。

同时，奇安信通过安全数据赋能AI，提升自身安全能力、千行百业的生产力。“我们要用AI驱动安全，跟数据投毒者、数据篡改者、数据窃取者进行赛跑，借助大模型的开发、应用和创新，把他们远远甩在后面。”齐向东称。