AI Agent的执行权应给谁?从一次主机隔离讲清策略网关
原创
裴伟伟
裴伟伟
洞源实验室
2026年11月15日 09:00
中国香港
去阅读
一个基础安全运营 Agent 接到一个任务,要求它分析过去一小时的高危告警并给出处理建议,它查到一台云主机触发的安全告警,并读取了事件详情,最终在处理建议中写明隔离这台主机。到这里,安全值守人员还可以通过原始事件信息结合Agent的处理建议回溯整个事件的过程,包括查询证据、分析原因、判断建议的合理性,以及验证这台机器上运行的业务情况。
但如果 Agent 直接根据生成的建议隔离了该主机,那情况就变了。同样一个事件处理判断,写进报告是处置建议,但发给工具执行就可能造成业务影响。然而模型生成这两样东西用的是同一套能力,企业承担的后果却千差万别。所以,当AI在端、边、云普遍运用的时候,Agent的安全必然是随之产生的严肃问题,在这个示例中对应的是:当 Agent 提议隔离一台主机,谁有权让这件事发生?
一、模型可以提出操作,业务系统负责授权
如果把 Agent 比作一个经验极佳但情绪不稳的企业员工,那么每一次的 Agent 工具调用都应当被视为一份待审查的业务请求。模型是员工的大脑,它可以根据工作场景中情景(如安全告警)选择对应的工具并执行相应的动作(如检查主机、执行隔离),但至于当前这名员工是否有权操作这台机器、当前任务是否允许执行隔离、变更动作是否需要有人批准,则都要由模型之外的系统依据可信信息作出判断(如上级审批)。
这和企业里提工单的道理一样,工单可以把故障原因、影响范围和变更建议写得很清楚,审批系统仍然需要知道是谁提的单子、他负责哪套系统、谁有权签字。接入工具和执行的 Agent 相当于给它开了一个提交工单的入口,如果提交请求的组件可以给自己签字、授权和执行,那么这套工单系统就成了摆设,影响和后果不言而喻。
如上图所示,在企业级 AI Agent 架构中,策略网关(Policy Engine)位于 Agent 层与工具层之间,它负责接收 Agent 的请求、身份、参数并执行策略,确保每一次 Agent 发送的执行请求是在满足策略要求下调用的。当下游工具层收到一个请求时,策略网关可以给出三种处理结果:允许、拒绝、等待审批,对于上文中的主机隔离操作,则适用于第三种“等待审批”,即处于这个状态的请求没有直接执行工具的资格,需要人工核验和批准。
二、模型读取的内容决定它的下一步
依然以主机隔离场景为例,Agent 为了完成任务通常需要读取告警描述、工单、文档甚至其他工具返回的结果,这些信息可以提供上下文处理的线索,也可能包含未经核实的处置意见或影响下一步执行策略的干扰信息。假如某条告警的备注声称另一台主机已经获得隔离授权,模型有可能据此提出隔离请求,备注是谁写的、有没有权限、授权是否有效等需要业务系统进行核验(去年某国际知名SAP厂商便披露过类似的安全漏洞)。
要把 Agent 的执行要求变成工程化的控制,策略网关需要回答四个问题。
| 判断内容 | 判断依据 |
|---|---|
| 谁在代谁操作? | 从可信会话和服务身份取得原始用户、Agent 身份及任务范围。 |
| 任务允许做什么? | 综合用户权限、Agent 获准使用的工具以及任务委托的范围。 |
| 要操作哪个资源? | 按工具校验参数解析出系统认可的资源标识,再检查资源级权限。 |
| 当前条件是否满足? | 根据风险等级和业务规则判断是否需要审批,并在执行时校验审批状态。 |
其中容易遗漏的是任务范围。假如同一位安全运营人员可以发起告警调查,也可以在应急流程里申请主机隔离,这时如果他交给 Agent 的任务是【查询告警、生成建议】,策略网关就应当把这次任务的执行范围限定为读取,即使运营人员自己拥有发起隔离的权限,但在这个任务中,哪怕模型(误)提出隔离请求也应该网关被拒绝。也就是说,真实用户日常拥有怎样的权限,与交给 Agent 怎样的权限是需要分别检查的权限记录。
根据上文架构图所示,策略网关还有一个关键是部署位置。网关能否控制工具执行的策略取决于下游接受请求的来源,如果 Agent 进程持有能够直接调用隔离接口的凭证,那么工具回调里加一道检查则只能约束走这段代码的请求,所以在工具执行端应当验证的是来自网关的受限凭证,并对目标资源和操作范围执行自身的授权规则。因此,评审策略网关的控制效果时,需要要沿着凭证和调用路径逐级逐个检查,确认每一条能改变业务状态的路径的控制来源和控制策略是否符合预期。
三、主机查询可以通过,隔离看任务和审批
延续文章开头的云安全运营场景,假设张三可以查询 host-001 的告警,也可以通过正式的应急任务申请隔离这台主机,但他对 host-002 没有访问权限,同时,系统提供两个工具,query\_alerts 用于查询告警,isolate\_host 用于隔离主机。
张三调用 Agent 分析 host-001 的告警后,模型经过一系列分析后通过 Agent 向网关提交工具名、参数、操作资源,网关则从认证会话中获取原始用户 ID 和 Agent 身份,并从服务端读取任务范围,接着从工具注册表(此表用于限制 Agent 可操控的工具清单,避免工具滥用)找到对应的参数规则和执行器。注意,即便在主机 ID 通过格式检查之后,也还要解析为网关认可的资产标识并校验执行权限。整个策略的处置流程如以下伪代码所示:
提交工具请求(已认证会话, 模型请求): 主体, 任务 = 从服务端加载身份与任务(已认证会话) 工具 = 从注册表查找(模型请求.工具名) 若工具不存在: 拒绝并记录(”未知工具”) 参数 = 按工具规则校验并规范化(模型请求.参数) 若参数非法或包含未声明字段: 拒绝并记录(”参数非法”) 资源 = 从资产目录解析(参数.host_id) 决策 = 评估当前策略(主体, 任务, 工具, 资源, 参数) 记录决策(请求编号, 主体, 任务, 工具, 资源, 决策) 若决策为拒绝: 返回拒绝 若决策为等待审批: 保存待审操作(请求编号, 主体, 任务, 工具, 资源, 参数, 有效期) 返回待审批编号 通过受控执行器调用(请求编号, 主体, 工具, 资源, 参数)
这段流程里的审批(19-21行)部分最容易衍生出连续性漏洞,此处是触发Human-in-the-loop的人工审核,审核人看到的是「隔离 host-001」审核信息,但审核后依然需要执行器完成执行,但此时执行器如果收到的只有一个审批编号和一份新工具参数,就需要重新校验这里的参数与审核人的审核一致。所以,更稳妥的做法是由网关保存待审操作,审核信息绑定请求人、任务、工具、资源、规范化参数和有效期,待审核通过后由执行器从网关读取保存的审核信息完成下一步操作。
另外,在人员审核期间可能会发生权限变化,例如待隔离主机移交给了另一个团队。这时审核记录只能说明审核人员在某个时间同意过这项操作,但具体执行前仍要按当前实际状态进行重新判断。同时,审核人的身份信息必须来自认证会话(比如多因子认证),以方便系统检查他是否有权批准这项操作,并按实际人员身份落实职责分离,避免同一个人换个账号给自己签字。这里的处理对应的流程如下:
批准操作(审批人会话, 待审批编号): 审批人 = 验证审批人身份(审批人会话) 操作 = 读取待审操作(待审批编号) 检查审批人有权批准该操作,且与请求人为不同人员 以原子状态更新记录批准(操作, 审批人, 有效期) 执行已批准操作(待审批编号): 操作, 审批 = 读取已保存的操作及其审批 检查审批有效、未撤销,且绑定当前操作内容 重新检查当前权限、任务状态和资源状态 在同一事务中占用一次执行资格并登记执行任务 下游凭证 = 签发仅限该动作与该资源的短期凭证 用固定操作编号调用下游(操作, 下游凭证) 记录下游结果及可核对的业务状态
实际运行中,在真正的隔离请求发出后,如果下游工具已经处理、网关却没有收到回执,还需要靠下游幂等和状态查询收尾。这里的幂等是指同一个操作编号重试时能够识别它属于同一操作,避免工具重复执行产生业务副作用。若返回结果无法确认,网关应当将回执记录为待核实,避免其他状态给人员带来干扰信息。
Agent 执行完毕后进行验收时,除了看网关返回了什么,还要核对下游是否收到请求、业务状态是否发生变化(此例中为host-001是否真的被隔离)。下表是此例的验收预期。
| 场景 | 网关的预期处理 | 下游或审计的验收依据 |
|---|---|---|
| 在告警分析任务中查询 host-001 | 允许 | 返回授权范围内的告警,留有调用记录 |
| 查询 host-002 | 拒绝 | 下游未收到查询,审计记录标明资源越权 |
| 调用未知工具,或给查询工具附加未声明字段 | 拒绝 | 请求停留在网关,执行器未被调用 |
| 在告警分析任务中申请隔离 host-001 | 拒绝 | 审计记录标明超出任务范围 |
| 在应急任务中申请隔离 host-001 | 等待审批 | 有待审记录,主机尚未隔离 |
| 请求人自审,或批准后、执行前权限被撤销 | 拒绝 | 有对应的拒绝原因,主机状态未变 |
| 合规审批后执行,同一操作随后重试 | 执行并返回原操作结果,或查询原操作状态 | 只有一次有效的业务变更 |
为了方便事后审计,网关的审计记录应把请求、策略决策、审批和下游回执关联到同一个操作编号,并写入受访问控制的持久化日志,事后审计人员可以通过日志知道哪个用户通过哪个 Agent 发起了什么操作、当时用的是哪个版本的策略,以及主机状态有没有变化。
四、执行边界是否成立,要看下游发生了什么
回到文章开头的告警分析任务,Agent 读到一段有误的处置意见(即模型判断有误),随后提出隔离请求,此时如果网关按策略拒绝,执行器没有收到请求、主机状态没有变化,且这些信息能从审计记录和业务系统中得到核对,那么执行边界就在个场景里发挥了作用。反过来,如果网关日志写着【拒绝】,主机却已经离线,就人工需要沿着调用链去查究竟是哪条执行路径还能使用隔离权限,也就是网关策略与执行链路出了差错。
业务可用性也可以用同样的方法检验,合法的告警查询应该顺畅完成,合规的隔离申请应该能交给有权处理的人,执行结果应该能回到值班流程,同时,审批等待时间和合法请求的误拒绝率还能帮助安全团队发现策略的成本是否最小化。
所以,给 Agent 新接一个工具后的策略设计可以从它带来的业务后果问起:这个动作会改变什么,谁有权委托,谁有权批准,出了问题从哪里查证。可以说策略网关在整个 AI Agent 架构中具有最重要的作用,它直接决定了整个 Agent 系统的安全影响范围和程度。
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。










评论