En 400-6655-581
5
返回列表
> 资源中心 > 文章>主题>AI安全> 三部门联合发文!从政策要求到安全落地,派拉 AIGS 如何支撑 AI Agent 规范应用?

三部门联合发文!从政策要求到安全落地,派拉 AIGS 如何支撑 AI Agent 规范应用?

文章

2026-05-14浏览次数:10

5 月 8 日,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》(以下简称《实施意见》)。

 

图片

 

意见明确提出,智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统,是人工智能产品及服务的重要形态。随着大模型等新一代人工智能技术发展,智能体正加速与网络空间、物理世界深度融合。

 

这意味着,AI Agent 已经不再只是“会生成内容”的工具,而是正在成为能够连接模型、调用工具、访问数据、执行任务的数字执行者。这样的AI Agent必须要有身份、有边界、可追溯、受管控。

 

如果你的企业正在或计划引入AI Agent(如自动客服、代码助手、财务对账机器人、风控智能体),那么这篇文章就是为你准备的“安全避坑指南”。

 

图片

 

本文将结合派拉软件AIGS平台,拆解新规下的五大核心要求及落地路径。

 

 

 

01

夯实技术底座与标准协议:让 Agent 先有可信身份

 

《实施意见》提出,要研究建立智能互联网体系架构,探索建立智能体注册平台,提供智能体数字身份管理、检索发现、能力声明等服务;同时研究智能体身份标识、可信互联、合规支付、安全防护、冲突解决等基础技术。

 

这一要求释放出一个明确信号:未来智能体不能再以匿名脚本、共享账号、临时接口的方式进入企业系统。

 

每一个 Agent 都需要像企业员工、应用系统、服务账号一样,拥有清晰的数字身份。企业需要知道:这个 Agent 由谁创建、属于哪个组织、代表谁执行、具备哪些能力、是否仍然可信、出问题后由谁负责。

 

图片

 

派拉 AIGS 通过 Agent Identity / NHI 管理能力,为企业中的 AI Agent 建立可信数字身份,让 Agent 从“看不见的后台程序”变成“可识别、可认证、可治理的数字主体”。

 

在身份技术底座上,基于 SPIFFE / SPIRE 等机器身份体系,为每个 Agent 颁发唯一身份凭证,实现机器身份确立;同时可结合 SCIM 2.0 等身份生命周期管理机制,实现 Agent 从注册、入职、权限更新到注销下线的全流程治理。

 

这意味着,每一个进入企业环境的 Agent,都将从“隐身运行的后台脚本”,转变为“身份清晰、行为可管、责任可追”的数字主体。这是 Agent 安全治理的基础,也是企业智能化落地的第一道防线。

 

 

 

02

守牢安全底线:厘清决策权限与行为边界

 

智能体的核心能力在于自主规划和执行,但企业真正关心的是:它能否在正确边界内执行。

 

《实施意见》明确提出,要厘清仅限用户本人决策、需由用户授权决策和智能体自主决策等不同决策方式的合理边界,确保用户对智能体自主决策享有知情权和最终决策权,智能体执行操作不得超出用户授权范围。文件同时提出,要发展规则内嵌、行为围栏等技术,确保智能体行为合法合规。

 

这对企业尤为关键。因为 Agent 能自动完成任务,并不代表所有任务都应该交给它自动完成。

 

例如,Agent 可以辅助审批合同,但它是否能直接批准千万级大单折扣?它是否能把竞品分析报告自动发给外部对象?技术可行,并不等于业务允许。企业真正需要的,是一个既具备智能能力,又能严格遵守业务规则和安全边界的 Agent。

 

图片

 

对此,派拉 AIGS 引入动态授权引擎,并通过 AAM 建立清晰的授权逻辑:Agent 自身能力 ∩ 调用者当前权限 ∩ 业务策略范围 = 本次可执行权限,其中:

 

自身能力:Agent能干什么(比如读合同、写邮件)。

调用者权限:当前使用这个Agent的员工,他自己有什么权限。

业务策略:企业配置的管理规则,如合同超过100万必须人工复核。

 

更关键的一招——人机协同(HITL, Human-in-the-Loop)。对于“删除合同”、“大额转账”、“修改配置”等高风险操作,AIGS 可强制挂起执行流程,由主管或授权人员确认后才能继续执行。

 

也就是说,AI 可以提出建议、生成动作,但关键按钮必须由人来按下。这样既释放了 Agent 的效率价值,也守住了企业关键操作的安全底线。

 

 

 

03

提升内生安全能力:从数据、凭证到输出全链路防护

 

智能体安全不是单点防护,而是贯穿访问、检索、调用、生成和执行的系统工程。

 

《实施意见》在“提升内生安全能力”中明确提出,要研究智能体数据安全、个人信息保护、密码防护、攻击检测、权限管理、行为控制等安全技术,提升智能体系统安全保障能力,防范数据投毒、隐私泄露、算法篡改、系统漏洞、运行失控等安全风险。

 

文件还提出,要加强供应链安全,制定智能体开发、部署、应用、维护等全周期安全规范,加强模型接入、应用程序接口调用、扩展工具使用等环节安全管理。

 

这意味着,企业不能只在输出端检查 AI 有没有泄露敏感信息,而应将安全控制前移,覆盖 Agent 的完整运行链路。

 

因为更隐蔽的风险,往往发生在 Agent 检索知识库、调用业务系统和获取上下文的过程中。比如在 RAG 检索阶段,Agent 可能已经“看见”了不该访问的薪资数据、商业机密或客户隐私。即使最终输出被过滤,敏感信息也可能已经进入推理链路。

 

图片

 

对此,派拉 AIGS 为 AI Agent 的完整运行链路构筑了四道防线:

 

1、数据访问前置过滤(AI数据网关 + RAG权限过滤)

 

Agent 在访问知识库、检索业务数据、调用敏感信息前,需实时基于用户身份、Agent 身份、业务上下文和权限策略进行动态过滤,避免 Agent “看到不该看的数据”。

 

对于更细粒度的知识库场景,AIGS 可将防护下沉至向量切片(Chunk)级别,在检索前动态注入权限过滤,从源头阻断 Agent 对越权敏感数据的访问。

 

2、密钥凭证统一托管(集成Vault能力)

 

企业不应再让 API Key、Token 等凭证散落在代码、脚本或配置文件中。

 

派拉 AIGS 可统一托管大模型 Key、业务系统 Token 等敏感凭证。Agent 要调用能力时,必须通过统一凭证管理机制获取授权凭证,并对每一次凭证使用进行记录和审计。

 

换句话说,Agent 不能再随意“拿钥匙开门”,而是必须经过统一钥匙柜授权,且每一次取用都可追溯。

 

3、模型与工具调用统一治理(AI网关 + MCP网关)

 

所有 Agent 对模型、API、MCP 服务的调用,都应经过统一治理入口。

 

AI 网关可统一管理模型接入、路由策略、安全检测和调用审计等;MCP 网关可统一管理工具注册、接口调用、权限校验和链路追踪;同时,Ditto 还能将无接口的老旧系统包装成可调用、可治理的 API / MCP 能力。

 

这意味着,企业不是将模型、接口和工具直接暴露给 Agent,而是通过统一安全入口实现可控开放、可管调用和可查链路。

 

4、输出结果要持续防护(AI 安全围栏)

 

在输出端,AIGS 通过 AI Guardrails 对生成结果进行敏感信息识别、PII 脱敏、越权片段拦截和异常内容防护,降低隐私泄露、敏感信息外发和违规输出风险。

 

通过上述四道防线,企业 Agent 安全不再是等到 AI“说错话”后再补救,而是在它访问、检索、调用、生成、输出的每一个环节,都提前建立边界和安全哨卡。

 

 

 

04

完善治理体系:分类分级与合规稽查形成闭环

 

企业落地 Agent,不可能“一刀切”管理。

 

《实施意见》提出,要根据应用场景和潜在影响,审慎稳妥开展智能体分类分级治理。对于敏感领域及重点行业,可实行备案、检测、问题产品召回等管理措施;对于生活娱乐、日常办公等低风险领域,则可通过合规自测、信息报告、分发平台管理、行业自律等方式实现高效治理。

 

这背后的逻辑很清晰:一个查询天气的办公助手,和一个能够操控生产线的工业智能体,显然不能适用同一套安全标准。一刀切的管理要么成本爆炸,要么形同虚设。

 

图片

 

针对这一问题,派拉 AIGS 建立了差异化治理策略。企业可根据 Agent 风险等级,灵活配置对应策略:

 

公开类 Agent,低风险:默认开放,限制敏感数据访问,保留基础日志;

部门内 Agent,中风险:仅限特定组织可见,启用必要的人工复核;

审批制 Agent,高风险:涉及金融交易、生产控制等关键场景,必须强制授权、双人复核、全链路审计;

黑名单 Agent,异常风险:一旦发现异常行为,可一键拉黑、强制下线。

 

此外,文件还提出,要探索建立重要应用场景下智能体行为可验证、可追溯机制。

 

因此,派拉 AIGS 在审计层配套了端到端审计能力 AI Audit,将 User、Agent、Model、Tool、Data、Action 六大要素串联起来,形成完整行为链。

 

能清晰地回答:谁,在什么时间,通过哪个Agent,调用了哪个模型,访问了什么数据,最终做了哪个动作,经过了谁的批准。

 

在合规稽查层,结合 IGA 能力,识别职责分离冲突、异常权限、过度授权和高风险配置。例如,同一 Agent 如果同时具备“提单权”和“审批权”,就可能形成内控风险,需要被及时发现和纠正。

 

这让 Agent 治理不再停留在“出了问题再排查”,而是走向持续监测、持续稽查、持续优化。

 

 

 

05

强化应用牵引:面向金融、政务、制造等重点场景安全落地

 

《实施意见》强调强化应用牵引,围绕科学研究、产业发展、提振消费、民生福祉、社会治理等方向提出典型应用场景,包括智能制造、金融服务、政务服务等重点领域。

 

而派拉 AIGS 在这些场景中,已经形成了较为成熟的落地思路:

 

图片

 

1、政务与央企场景:让存量系统可接入、可隔离、可追溯

 

在政务和央企场景中,Agent 可能连接政策库、事项系统、审批系统、内部公文系统和群众服务入口。

 

派拉 AIGS 通过 MCP 网关和 Ditto,将老旧政务系统、存量业务应用纳入统一工具治理;同时通过强隔离知识库和数据访问控制,防止公文资料、内部知识和敏感数据跨域泄露。

 

这样,政务智能体不仅能提升服务效率,也能在身份可信、权限清晰、数据隔离和全程留痕的前提下安全运行。

 

2、金融场景:让风控决策可审计、数据访问可追溯

 

《实施意见》在金融服务场景中提到,研发金融风控智能体,提升信贷审批、交易监控、账户安全等环节风险识别能力,并完善异常检测、合规审计等功能。

 

在金融场景中,Agent 可能参与反欺诈、信贷审批、交易监控、账户安全、反洗钱等流程。

 

这类场景既涉及敏感数据,也涉及高风险决策。派拉 AIGS 可围绕金融 Agent 提供身份认证、权限控制、数据溯源、决策审计和全链路留痕,支撑金融机构在合规前提下提升智能化能力。

 

3、智能制造场景:让生产控制有边界、高危动作有人审

 

《实施意见》在智能制造场景中提出,研发生产管理智能体,动态优化生产排程、资源分配和工序衔接,并推动智能体与工业互联网、数控机床、工业机器人、自动化产线等融合。

 

在制造场景中,Agent 可能连接 MES、ERP、设备监控系统甚至自动化产线。

 

这类场景必须严格区分“只读监控”“工艺建议”“参数修改”“设备控制”等不同风险等级。

 

派拉 AIGS 可帮助企业实现车间 OT / IT 场景下的分级授权:对于生产监控类 Agent,可授予有限只读权限;对于涉及产线调整、工艺参数修改、设备控制的高危动作,则必须触发主管确认和审计留痕,避免智能体从“辅助决策”滑向“失控执行”。

 

 

 

06

结语:智能体时代,企业要管理的是“被授权的行动”

 

《实施意见》的发布,意味着智能体正在从技术探索走向规范应用。

 

它不是给AI发展踩刹车,而是为智能体驶入企业核心业务,画好了车道线、装上了红绿灯、设好了限速牌。

 

未来,真正能在关键流程中担当重任的 Agent,不一定是最“自由”的,而是最可识别、可授权、可控制、可审计、可追责的。

 

派拉软件 AIGS 以身份为核心,以访问控制为主线,帮助企业将智能体从“能运行”的安全冒险,转变为“可托付”的业务常态。

 

智能体治理的大幕已经拉开。企业要选择的,不只是被动合规,还是主动构建面向 AI 时代的安全竞争力。