AI安全需求扩容，网络安全迎新增长周期

（本文作者为苏商银行特约研究员高政扬）

随着AI大模型快速迭代发展，AI正在从信息处理工具逐步进入企业生产、研发、办公和业务决策等环节。与此同时，AI安全的重要性也在持续提升。近期，多家国际大模型企业陆续披露了模型在网络安全测试和实际恶意使用中的相关情况，这反映出一个越来越现实的变化，当AI具备更强的推理能力、工具调用能力和自主执行能力之后，安全防护所面对的对象正在发生变化。

过去，市场对于AI安全的讨论，更多集中在模型是否会生成错误信息、遭遇越狱或者输出有害内容。随着AI Agent加快发展，安全问题的范围正在进一步扩大。模型能够调用哪些工具、访问哪些数据、连接哪些系统、获得多大的执行权限，以及当实际执行过程偏离预设目标时能否及时发现和阻断，都开始成为企业部署AI必须面对的问题。

近期OpenAI披露的相关安全事件，以及Anthropic最新威胁情报报告所反映的AI滥用趋势，都说明大模型能力提升之后，安全风险已经逐渐从模型输出层延伸至系统、网络、数据和业务执行层面。因此，其反映出的安全边界变化值得产业高度重视。

与此同时，AI安全正在从实验室议题走向产业需求。随着越来越多企业将大模型接入内部知识库、数据库、业务系统和各类API，AI与传统IT基础设施之间的联系不断加深，安全投入也将随之从模型本身扩展到应用、数据、身份和执行权限等多个层面。

一、AI深度融入企业核心系统，网络安全边界持续拓展

AI安全需求快速增加，背后最直接的驱动力来自AI应用方式的变化。过去的网络安全体系，核心对象主要包括网络、终端、服务器、应用系统和数据库，安全管理的重点是识别用户身份、控制访问权限、防范外部攻击以及保障数据安全。随着AI成为新的业务参与者，企业网络环境中开始出现一种不同于传统用户和设备的智能主体。

大模型接入企业知识库之后，可以调用内部信息；接入业务系统之后，可以执行相关任务；进一步发展到Agent之后，还可能根据任务目标自主规划步骤、调用工具并连续执行。这样一来，AI安全就很难只停留在模型输出是否合规这一层面。

企业需要管理的，是一个更完整的AI运行链条。从模型层面看，提示词注入、越狱、模型窃取、训练数据污染以及恶意输入等问题仍然需要持续防范；从应用层面看，大模型与插件、API、知识库和业务系统连接后，会带来新的接口和权限风险；从执行层面看，AI Agent拥有更强的操作能力之后，身份认证、权限控制、行为审计和异常拦截的重要性都会进一步提升。

因此，AI安全正在推动传统网络安全体系向更广范围延伸。过去，安全体系强调谁可以访问系统；未来，还需要进一步回答AI可以访问什么、可以执行什么，以及为什么可以执行。

这一变化对于网络安全行业具有重要意义。可以说AI安全是在AI深入企业业务之后，对既有安全能力的一次重新组合和延伸。原有的身份安全、数据安全、终端安全、API安全、访问控制和安全运营能力，都有望进入新的AI应用场景。

二、模型安全向智能体安全演进，产业需求分层拓展

从产业发展趋势来看，AI安全未来可能形成由模型、应用、数据、身份和运营等多个环节共同构成的安全体系。

首先是模型安全。随着大模型成为企业基础能力，模型本身的安全性将直接影响AI应用能否稳定运行。围绕模型开展的安全评测、攻击测试、风险识别、内容防护和运行监测，有望逐步成为模型部署过程中的基础配置。尤其是在金融、政务、能源、工业等高安全要求领域，企业对于模型可控性、输出可靠性以及运行过程监测的要求会更加明显。

其次是AI应用安全。当企业将模型嵌入客服、办公、研发、营销、风控以及生产系统后，很多安全问题经常会发生在模型与业务系统连接的过程中。一个模型本身可能并不存在明显风险，但当它拥有数据库访问权限、代码执行权限或者外部API调用权限之后，新的攻击面就会随之形成。

因此，未来AI应用安全的重要任务之一，是建立模型与业务资源之间更加清晰的边界，包括接口安全、访问控制、调用审计以及应用运行监测等。传统网络安全产品在这一过程中也将获得新的应用空间。

与此同时，智能体安全可能是AI安全产业中更值得长期关注的方向。AI Agent最大的变化，是从提供信息进一步走向完成任务。当智能体能够自主调用软件、访问数据和执行操作之后，安全管理的逻辑也需要随之升级。企业未来不仅需要识别一个Agent是谁，还需要知道它当前为什么拥有某项权限、正在执行什么任务、调用了哪些资源，以及出现异常后能否迅速停止。

这将推动身份安全、权限管理、零信任、行为审计以及安全运营能力进一步向AI场景延伸。

可以预见，随着企业内部部署的模型和Agent数量增加，机器身份本身的重要性也会不断提升。未来企业安全体系管理的对象可能不再只有员工、终端和服务器，还会包括模型、Agent、API以及自动化任务。由此形成的身份与权限管理需求，有望成为AI安全产业的重要增量来源。

三、数据安全与AI安全深度融合

AI应用规模扩大之后，数据安全的重要性同样会进一步提升。AI的价值很大程度上来自数据，而企业真正推动AI落地，需要打通内部知识、业务信息和数据资源。随着AI成为企业信息处理的重要入口，数据使用效率会不断提高，但数据权限管理的复杂程度也会同步增加。

企业需要解决的问题包括，哪些数据能够被模型调用、不同角色可以访问哪些内容、模型生成结果是否携带敏感信息，以及数据在模型训练和推理过程中如何得到有效保护。

这意味着，数据防泄漏、数据分类分级、敏感信息识别、访问控制等传统数据安全能力，都可能伴随AI应用发展获得新的需求。同时，AI也将推动企业更加重视数据流向管理，因为过去相对固定的数据调用路径，在引入大模型和Agent之后可能变得更加动态。

身份安全同样会成为其中的重要组成部分。当模型能够连接多个业务系统时，企业需要建立更加细致的身份与权限体系，对模型和Agent实行差异化授权，并对关键行为进行记录和审计。传统的零信任理念、身份认证体系和权限管理机制，未来可能进一步延伸到AI运行环境。

从产业角度看，这意味着AI安全和数据安全、身份安全之间的边界会越来越模糊。市场未来关注的重点，也可能从单一产品转向覆盖模型、身份、数据、应用和业务流程的整体安全能力。

四、政策体系持续健全，AI安全逐步迈入产业化阶段

AI安全需求的增长，还有一个重要背景，就是政策和治理体系正在不断完善。“十五五”规划纲要明确提出全面实施“人工智能+”行动，同时提出健全新技术新业态安全监管框架，完善人工智能领域相关法律法规、政策制度、应用规范和伦理准则，健全算法备案、透明度管理、安全评估等制度，并推动建立人工智能全生命周期风险管理制度，形成覆盖安全监测、风险预警和应急响应的风险防控体系。9月14日，全国网络安全标准化技术委员会发布《人工智能安全治理框架3.0》，进一步围绕人工智能发展带来的新趋势和安全治理新挑战，更新风险分类、技术应对以及综合治理措施，推动人工智能安全治理体系进一步完善。

从政策方向可以看到，人工智能治理正在从单一环节向全生命周期管理延伸。这与产业发展趋势基本一致。随着模型从实验环境走向规模化部署，安全要求也需要同步嵌入研发、部署、运行和应用全过程。

这意味着，AI安全可能逐步从企业的可选投入转向规模化部署过程中的基础能力。尤其是金融、政务、能源、电信、工业等领域，数据敏感程度高、业务连续性要求高，AI一旦进一步深入核心系统，企业对于安全防护的要求也会更加严格。未来AI项目建设过程中，安全评测、权限管理、数据保护、风险监测等环节的重要性可能持续提高。

五、AI安全有望成为网络安全行业新增量空间

从更长周期来看，AI安全值得关注的核心原因，在于人工智能正在带来一轮新的安全需求扩容。一方面，模型能力快速提升，推动企业加大模型安全评测、应用安全和运行监测投入；另一方面，Agent不断获得更多执行权限，使身份安全、权限管理和行为审计进入新的应用场景。同时，AI对数据资源的深度调用，也会持续增加企业在数据安全和隐私保护方面的需求。

因此，AI安全对网络安全行业的影响，更可能表现为原有市场边界的扩大。未来，网络安全厂商需要面对的客户需求可能更加综合。企业既需要防范传统网络攻击，也需要管理模型和Agent的运行风险；既要保护传统IT系统，也要确保AI应用与核心业务系统之间建立清晰的权限边界；既要做好网络和终端防护，也要进一步加强数据和身份安全。

对于网络安全产业来说，这一变化有望带来新的产品创新和业务空间。模型安全、AI应用安全、Agent安全、数据安全、身份安全以及智能安全运营，都可能成为行业持续演进的重要方向。

人工智能每向前迈进一步，都会推动应用边界进一步扩大。随着AI从独立工具逐渐融入企业基础设施和核心业务，安全也将从外围保障逐步走向基础能力建设。未来，人工智能产业规模化发展与安全能力建设之间的联系将更加紧密，而这也可能成为网络安全行业下一阶段值得关注的结构性变化。

第一财经一财号独家首发，本文仅代表作者观点，不构成投资建议。