智能体加速落地 AI安全生意逻辑生变

中经记者 杨让晨 李正豪 乌镇报道

（网易智企副总经理、易盾业务负责人朱浩齐在2026年世界互联网大会乌镇峰会期间接受采访。杨让晨/摄影）

今年10月以来，摩根大通、花旗银行、美国银行、摩根士丹利、嘉信理财等金融机构相继采取措施，限制未经授权的第三方AI智能体访问客户账户。加拿大多家大型银行也陆续采取类似措施。

这些限制主要针对第三方智能体利用用户账号密码直接登录银行系统、执行账户操作等行为。尽管部分用户主动向智能体提供授权，但当AI能够自主调用工具、执行交易时，一旦发生错误操作或资金损失，责任如何划分成为新的问题。

这一变化反映出AI产业正在面临新的安全挑战。随着大模型从内容生成走向自主执行任务，安全风险也从生成内容是否合规，延伸至数据访问、身份验证、权限管理及行为执行等环节。

新的需求正在催生AI安全市场的商业机会。11月3日，在2026年世界互联网大会乌镇峰会期间，网易智企发布了基于易盾双向AI安全架构的AI原生安全产品体系，将原有的内容安全能力拓展至身份识别、智能体行为安全等领域。

不过，这一市场并非只有专业AI安全厂商参与。大模型厂商、云服务商及传统网络安全企业均在扩大各自的安全业务边界。网易智企副总经理、易盾业务负责人朱浩齐在接受包括《中国经营报》在内的媒体记者采访时表示，对于第三方厂商而言，需要与客户的业务产品深度适配，满足客户定制化需求的安全能力。

AI安全市场竞争加剧

过去，企业部署AI应用时，安全问题更多集中于模型输出环节，包括生成违法违规内容、泄露敏感信息以及遭受恶意提示词攻击等。

随着智能体接入企业内部系统，风险开始发生变化。朱浩齐告诉记者，与传统安全体系相比，大模型安全面临的一个突出难题，是其底层技术具有概率性。“传统网络安全产品可以通过病毒特征、IP地址或预设规则识别风险，但AI应用涉及复杂的语义理解和上下文判断，安全系统很难仅凭某个特征就确定一项操作是否存在问题。”

在此背景下，如何将具有模糊性的语言内容和行为意图，转化为准确且能够向客户解释的安全判断，是AI安全领域需要长期解决的问题。

记者注意到，目前，AI安全市场的参与者大致可以分为三类。首先是大模型厂商和云服务商。这类企业能够在模型调用、内容过滤、API接口及云端运行环境中嵌入安全机制，为客户提供标准化防护能力，其优势在于安全功能可以与基础模型及云计算服务一体化交付。

其次是传统网络安全厂商。这些企业在网络流量监测、终端防护、漏洞管理及企业权限控制等领域积累较深，能够将AI相关风险纳入既有网络安全体系。

最后则是以内容识别、业务风控和模型安全为基础，逐步向智能体安全拓展的专业第三方厂商，其竞争重点更多集中于业务语义理解、风险意图识别及不同场景下的定制化防护。

不过，三类厂商的业务边界并非完全独立，随着智能体安全需求增加，模型安全、身份管理及行为监测等领域正在出现更多交叉。

在朱浩齐看来，不同类型厂商之间更可能形成共存关系。“大型云厂商及模型厂商能够提供基础性、标准化的安全能力，但企业的业务系统往往存在较多定制化需求，需要专业第三方厂商提供针对性的安全服务。”

不过，随着大模型厂商不断完善内置防护功能、传统网络安全企业加速增加语义理解能力，专业第三方厂商竞争边界将进一步重塑。

第三方厂商寻找新增长

面对AI安全需求的变化，网易智企·易盾正在尝试将既有的内容安全和业务风控能力，拓展至更完整的企业AI应用链路。

在2026世界互联网大会期间，网易智企·易盾发布了覆盖AI内容与数据安全、AI交互与身份安全、AI模型与智能体安全三个层面的产品体系。

具体来看，CMA审核智能体主要面向内容审核场景，通过大模型与专项小模型协同完成内容研判、分流和处置；DeepGuard人脸鉴伪主要应对AI换脸、视频注入等身份伪造风险；Agent Guard则针对智能体的工具调用、权限控制及行为执行提供风险检测与拦截能力。

从技术路径看，网易智企·易盾正尝试将原有的内容识别能力进一步用于理解用户意图、识别异常行为。

根据网易智企·易盾公布的数据，在公司某客户月均超过250万件投诉工单的审核场景中，采用CMA智能体初审与人工复核相结合的方式后，平均出审时长由35.7分钟缩短至12.3分钟，审核准确率达到99.2%。

实际上，相比内容审核，智能体行为安全的商业化市场尚处于早期。一方面，智能体安全涉及模型、工具、业务系统和用户权限等多个环节，单一产品难以覆盖全部风险，需要体系化方案；另一方面，企业对于AI安全的采购标准尚未完全形成。

朱浩齐告诉记者，目前公司的客户中，既有由企业安全部门牵头采购的，也有业务部门负责采购的，还有部分企业成立专门的AI或信息技术部门推进相关工作。

这意味着，AI安全正在从传统IT安全预算向具体业务应用延伸，但其采购主体和交付模式尚未完全固定。

“从客户需求看，目前互联网企业、AI原生应用企业及金融机构对相关安全服务的需求较为突出。”朱浩齐进一步表示，在AI安全的客户中，互联网和AI原生企业较早将大模型用于社交、内容生产和业务交互，而金融机构长期重视安全投入，对新型风险的防范需求相对较强。“随着智能体进入更多行业，安全需求有望进一步增加，但不同场景对于风险识别、执行拦截和人工复核的要求存在差异，第三方厂商仍需要投入资源进行适配。”

不过，对于第三方安全服务商而言，规模化服务能力至关重要。朱浩齐表示，第三方安全服务商在数据合规、脱敏的前提下，能够通过不同客户积累的风险案例和攻击样本，持续优化安全模型，并通过算力资源调配降低单个客户的服务成本。

未来，AI安全还需要从多方面入手建设。中国信通院发布的《人工智能安全治理研究报告》认为，未来，产业还需持续探索以“计划、执行、检查和处理”(PDCA)模式为核心的管理模式，实现从“碎片化”向“系统化”的转型。在计划、执行、检查、处理等阶段，进行包括结合企业自身业务需求与行业安全标准等制定实施方案等步骤，推动管理体系迭代完善的螺旋式上升，最终构建起适配产业发展的长效安全管理机制。

（编辑：张靖超 审核：李正豪 校对：燕郁霞）