AI科技伦理审查新规发布，哪些看点值得关注

人工智能（AI）技术快速发展，深度赋能千行百业，由此带来的算法歧视、深度伪造等伦理风险也愈加凸显。工业和信息化部等十部门近日联合印发《人工智能科技伦理审查与服务办法（试行）》（下称《办法》），为我国AI科技伦理审查与服务工作提供了明确指引。

工信部有关负责人表示，加强AI科技伦理治理，是坚守科技向善、筑牢科技安全底线、保障产业高质量发展的必然要求。在此背景下，出台《办法》，既是对科技伦理治理要求的具体落地，也是推动AI产业创新发展、促进负责任创新的现实需要。

盘古智库高级研究员吴琦对第一财经表示，作为我国首部针对AI科技伦理审查的专项规定，《办法》立足AI技术和产业特点，对审查适用范围、实施主体、工作程序、服务促进和监督管理等作出系统规定，旨在推动AI从原则倡导走向制度化、全链条的伦理治理，对于AI规范健康发展具有重要意义。

完善AI治理

随着AI赋能千行百业，AI治理越发受到重视。今年政府工作报告明确提出“完善AI治理”，全国人大常委会工作报告也提出“加强AI领域立法研究”。

早在2022年3月，中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》，对科技伦理治理作出顶层设计和系统部署；2023年9月，科技部等十部门联合印发《科技伦理审查办法（试行）》，对科技伦理审查主体、审查程序作出具体规定；2024年7月，党的二十届三中全会再次强调“加强科技伦理治理”。

吴琦分析，AI发展应用的同时，也带来了科技伦理等负外部性问题，比如隐私与数据滥用、算法偏见与歧视、深度伪造与信息操纵、劳动替代与人类主体性危机等。目前国际上已形成一些共识性框架，比如OECD的AI原则、中国《新一代AI伦理规范》等。

《办法》在遵循通用规定的前提下，立足AI技术特征与伦理原则，在适用范围、申请材料、审查重点、简易程序适用等方面作了针对性完善与细化，更贴合AI科技伦理审查实际需要。

清华大学公共管理学院教授、AI国际治理研究院副院长梁正强调，要处理好发展和安全的关系，坚持分类分级监管与包容审慎创新并行的治理思路，进一步增强治理能力，完善治理体系，提高治理水平。在激励创新与包容失败中，实施包容审慎的监管模式，让AI这一新兴产业成长为明天的支柱产业。

明确伦理审查细则

AI科技伦理治理是AI治理的重要组成部分，主要包括增进人类福祉、公平公正、可控可信、透明可解释、责任可追溯、隐私保护等内涵。

《办法》所适用的AI科技活动是指在我国境内开展的，可能在人的尊严、公共秩序、生命健康、生态环境、可持续发展等方面带来科技伦理风险挑战的AI科学研究、技术开发等活动，以及依据法律、行政法规和国家有关规定需进行AI科技伦理审查的其他科技活动。

《办法》结合AI科技活动特点，明确了申请与受理、一般程序、简易程序、专家复核程序、应急程序等不同程序要求。

根据《办法》，委员会或服务中心重点围绕人类福祉、公平公正、可控可信、透明可解释、责任可追溯、隐私保护等方面开展伦理审查。同时，还需要关注参与科技活动的科技人员资质等是否符合相关要求，拟开展的科技活动是否具有科学价值和社会价值，科技活动的风险受益是否合理，伦理风险控制方案及应急预案是否科学恰当、具有可操作性等。

《办法》明确，需要开展专家复核的AI科技活动主要包括三类：对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统的研发；具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发；面向存在安全、人身健康风险等场景的、具有高度自主能力的自动化决策系统的研发。

《办法》专门设立第二章“服务与促进”，围绕标准建设、促进服务、鼓励创新、宣传教育、人才培养五个方面制定务实举措，精准破解当前AI企业伦理治理中存在的技术手段不足、标准规范不完善、治理工具匮乏等问题。

梁正认为，AI向生产生活各环节各领域深入渗透，其治理不能脱离行业属性。针对不同行业制定精细化监管举措，并设立不可逾越的底线，在医疗、金融、交通等重要领域，要将AI安全风险防控与现行法律法规深度融合，在筑牢底线的基础上推动健康发展。

《办法》鼓励高等学校、科研机构、医疗卫生机构、企业和科技类社会团体等参与AI科技伦理标准制定，凝聚行业共识，完善标准体系。推进AI科技伦理服务体系建设，强化风险监测预警、检测评估、认证、咨询等服务供给，加大对中小微企业AI科技伦理审查的支持和服务力度，降低企业合规成本。支持AI科技伦理审查技术创新，鼓励企业运用技术手段防范伦理风险。

工业和信息化领域科技伦理专家委员会主任委员魏一鸣表示，具有深厚技术实力的企业、高校和科研机构，应主动承担起研发科技伦理治理“硬科技”的使命，加强AI伦理治理技术研发与工具创新。聚焦可解释AI、算法公平性监测、深度伪造鉴别等关键技术开展专项攻关，为伦理审查提供技术工具。通过研发实用的伦理评估工具、风险模拟平台和算法审计系统，将抽象的伦理原则转化为可量化、可操作、可嵌入工程流程的技术指标与解决方案，推动伦理治理技术化、工程化。