中国创新药+可信AI治理：超智能体时代“安全起飞”

近日，安永[1]大中华区人工智能与数智工程咨询服务合伙人张楠驰出席由同写意主办的首届大国新药全球会议（CPIC），并在“AI驱动药企创新实践专场”发表题为“在超智能体时代‘安全起飞’：中国创新药的合规治理与可信AI框架”的主题演讲。

在人工智能加快进入医药产业的背景下，张楠驰结合行业趋势与企业实践，分享了AI在创新药全生命周期中的应用机会，并重点探讨企业如何通过可信AI治理，在把握创新机遇的同时，建立清晰、稳健的安全边界。

一、AI正在成为创新药全生命周期的新变量

当前，人工智能与创新药的结合，正在从早期探索逐步走向更加广泛的业务实践。

张楠驰在演讲中分享，AI在创新药领域的价值边界已不再局限于药物发现和分子筛选，而是逐步延伸至发现与立项、临床前开发、临床试验、注册申报、生产质量、供应链、市场准入及上市后管理等环节。

图：AI在创新药的应用场景

在研发环节，AI可以辅助企业处理文献、专利、实验及临床信息，为知识获取、信息分析和方案设计提供支持；在注册、生产与质量管理过程中，AI可以帮助企业提升信息处理和风险识别效率；进入市场之后，AI还可应用于医学信息、药物警戒、真实世界证据和患者服务等场景。

这意味着，AI正在从服务于局部环节的辅助工具，逐步成为连接企业知识、专业判断和业务流程的新型能力。AI带来的价值，也正在从提高单项任务效率，扩展至支持跨环节协同和业务决策。

二、AI越深入业务，越需要可信治理

随着智能体等技术形态不断发展，AI的角色也在发生变化——从检索、总结和内容辅助，逐步走向预测分析、专业决策支持和工作流执行。

当AI能够参与的业务活动越来越多，其产生的影响也会更加广泛。特别是在创新药行业，临床、质量、注册和医学沟通等场景与患者安全、产品质量及监管要求密切相关，企业需要关注的不只是模型能否给出答案，还包括数据是否得到适当使用、输出是否可靠、过程能否解释、责任是否清晰，以及系统能否持续保持稳定和可控。

同一种AI能力，用于一般信息整理和用于患者筛选、质量判断或医学沟通时，可能面临不同的风险和管理要求。因此，企业需要结合具体使用场景，判断AI可以参与到什么程度、哪些结果必须经过专业人员复核，以及最终决策权应由谁掌握。

伴随AI应用不断深入，相关治理要求也在持续发展。对企业而言，关键不仅是理解外部要求，更要结合自身业务特点，将安全、合规与责任要求落实到内部制度、业务流程和日常运营之中。

三、治理能力决定AI能否走向规模化

从企业实践来看，AI应用面临的挑战已经不再只是模型和技术本身。

随着AI项目数量增加，企业可能同时面对专业能力、数据安全、组织协同、整体规划和责任划分等多方面问题。如果不同部门分别开展AI探索，却缺少统一的原则和管理机制，分散的项目可能带来新的管理压力，也难以进一步沉淀为可复制、可扩展的企业能力。

因此，企业需要从整体视角重新审视AI：组织内部正在使用哪些AI、AI服务于什么业务目标、可以使用哪些数据、模型是否适合特定场景、输出如何复核、相关责任如何划分，以及出现异常后能否及时发现、追溯并响应。

这些问题无法仅依靠单个项目临时解决，而需要由企业级治理体系统一承接。

张楠驰介绍，可信AI治理需要统筹治理政策、组织职责、人员能力、技术平台、数据资源、第三方管理和运营监督，并将相关要求贯穿AI应用的规划、建设、测试、部署、运行、变更及退出过程。

图：AI治理架构

四、让可信要求真正进入业务实践

可信AI并不是停留在原则层面的概念，也不仅等同于模型准确率高。其核心在于，企业能否把安全、可靠、透明、合规和负责任等要求，转化为实际业务流程中的职责、规则和行动。

企业可以结合AI应用的业务影响和风险特点，采取与之相适应的管理方式。对于涉及敏感数据、专业判断或关键业务活动的场景，需要给予更多关注，并明确必要的评估、验证、审批、人工监督和运行监控安排。

在应用第三方模型及AI服务时，企业同样需要关注数据如何使用、服务发生变化后如何管理、各方承担怎样的责任，以及相关服务不再适用时如何有序退出。

治理的目标不是为创新设置额外障碍，而是帮助企业建立可以持续创新的基础。当业务部门、技术团队、数据管理、法务合规和风险管理形成更加清晰的协作机制，AI项目才能从局部探索走向更稳健的规模化应用。

五、在创新与风险之间建立稳健平衡

人工智能正在为中国创新药带来新的发展空间，也在改变企业研发、运营和决策的方式。面对不断扩展的应用场景，如何在把握技术机遇的同时兼顾安全、可信与合规，正在成为企业推进AI应用时需要思考的重要课题。

未来，AI治理将进一步融入企业战略、组织管理和业务流程。通过建立与业务发展相适应的可信治理能力，企业可以更有信心地探索AI应用，并推动技术能力转化为研发效率、专业决策和业务价值。

安永将持续发挥生命科学行业经验以及人工智能与数智工程专业能力，协助企业识别AI应用机会，完善治理体系与落地机制，在创新与风险之间建立更加稳健的平衡，共同推动中国创新药行业高质量发展。

注：[1].安永（中国）企业咨询有限公司

作者团队：

吴晓颖 Sharry Wu

生命科学与医疗健康行业联席主管合伙人

大中华区咨询服务主管合伙人

安永（中国）企业咨询有限公司

sharry.wu@cn.ey.com

费凡 Felix Fei

生命科学与医疗健康行业联席主管合伙人

华中区审计服务主管合伙人

安永华明会计师事务所（特殊普通合伙）

felix.fei@cn.ey.com

张楠驰 Nancy Zhang

大中华区人工智能与数智工程咨询服务合伙人

安永（中国）企业咨询有限公司

nancy-nc.zhang@cn.ey.com

本文是为提供一般信息的用途所撰写，并非旨在成为可依赖的会计、税务、法律或其他专业意见。请向您的顾问获取具体意见。