两项人工智能安全治理标志性成果在广州南沙发布

9月9日，作为2024国家网络安全宣传周重要活动之一，网络安全技术高峰论坛主论坛暨粤港澳大湾区网络安全大会在广州南沙举办。现场重磅发布《人工智能安全治理框架》1.0版和2024年人工智能技术赋能网络安全应用测试结果这两项人工智能安全治理标志性成果。加快南沙（粤港澳）数据服务试验区建设启动仪式也同步进行。

加快南沙（粤港澳）数据服务试验区建设

中央网信办副主任、国家网信办副主任王京涛在致辞中表示，党的二十届三中全会为进一步全面深化改革、推进中国式现代化发起总动员、做出总部署，特别是对网络安全工作也提出一系列新任务、新要求，为国家网络安全工作指明前进方向，提供根本遵循。

他提出4个工作要点：健全网络安全指挥协调能力，构建纵深布防、高效协同的国家网络安全防御体系；建立人工智能安全监管制度，大力提升人工智能安全治理水平；强化数据安全治理监管能力，规范数据安全有序流动和有效利用；加强网络安全科技力量建设，加快形成教育技术产业融合发展的良性生态。

据悉，南沙（粤港澳）数据服务试验区旨在以促进数据跨境流动便利化为特色，推动粤港澳数据规则衔接，创新数据服务模式，培育国际化的数据服务产业集群，提升粤港澳大湾区的数字经济竞争力。此次启动仪式，为数据试验区建设按下加速键。南沙将以此为契机，打造全国数据服务产业发展最活跃、对外开放程度最高、数字创新能力最强的区域之一。

《人工智能安全治理框架》1.0版发布

《人工智能安全治理框架》1.0版以鼓励人工智能创新发展为第一要务，以有效防范化解人工智能安全风险为出发点和落脚点，提出包容审慎、确保安全，风险导向、敏捷治理，技管结合、协同应对，开放合作、共治共享等人工智能安全治理的原则，推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险。

它按照风险管理的理念，紧密结合人工智能技术特性，分析人工智能风险来源和表现形式，针对模型算法安全、数据安全和系统安全等内生安全风险和网络域、现实域、认知域、伦理域等应用安全风险，提出相应技术应对和综合防治措施，以及人工智能安全开发应用指引。其主要分为4个板块：人工智能安全治理原则、安全风险、技术应对与综合治理措施、安全开发应用指引。

其中，安全风险包括内生安全风险和应用安全风险。全国网络安全标准化技术委员会秘书处主要负责人表示，将积极开展人工智能安全标准的研制，加快构建并持续完善人工智能安全的标准体系，并加快推进生成式人工智能服务的训练数据安全、数据标注安全以及生成合成内容标识等重点急需标准的研制，结合重点行业应用推动标准落地实施。

2024年人工智能技术赋能网络安全应用测试结果发布

2024年人工智能技术赋能网络安全应用测试活动由中央网信办网络安全协调局、中国科学院网信办、中国人民银行科技司指导，国家计算机网络应急技术处理协调中心联合中国网络空间安全协会、中国科学院信息工程研究所、国家信息技术安全研究中心、中国网络安全产业联盟、长安通信科技有限责任公司举办，旨在挖掘人工智能技术在网络安全领域的应用潜力，推动网络安全产业整体技术水平不断提升。

据介绍，测试使用华为公司的AI服务器、计算架构作为基础软硬件环境，设置网络安全告警日志降噪、原始流量网络安全威胁检测、钓鱼邮件识别、恶意软件检测、软件缺陷分析与漏洞检测、网络金融用户账号欺诈登录行为检测等6个场景。测试结果显示，目前AI技术在其中4个网络安全场景具有较好的赋能效果。