给 AI Agent 上把锁:工具调用的最小权限原则
原创
夜游神
夜游神
船山信安
2026年11月17日 23:01
湖南
去阅读
AI安全 · AISEC
给 AI Agent 上把锁:工具调用的最小权限原则
一个能读文件、能发请求、还能执行 shell 的 Agent,等于把三把钥匙串在一根环上。丢一次,全丢。
Agent 安全不是把它关得越死越好,是它只能用得上、且仅用得上的那点权限。
本文讲 AI Agent 的权限治理思路,全部配置为教学示意,不涉及任何真实系统或未修复漏洞的利用。
01Agent 和聊天机器人的区别在哪
聊天机器人说错话,最多是错话。Agent 有工具,说错话会变成真动作——这是两种完全不同的风险等级。
工具调用把「生成」变成了「执行」,风险从内容层直接跳到了系统层。你之前那套防提示词注入的经验,在这儿只解决了一半问题。
02三种常见的权限过头
1一把钥匙开所有门:一个高权限凭证通吃所有工具,越权无从拦截
2工具能力过宽:叫「读文件」,却顺带能写、能删、能遍历目录
3没有确认环节:高风险动作自动执行,事后才发现
03最小权限怎么落地
原则就一条:按任务拆权限,按动作收粒度,高风险加确认。落到工程上是四件事。
1按任务拆凭证:读和写分开,查询和执行分开,不复用同一个身份
2工具粒度收窄到动作级:只读就别给写,要写就限定目录或表
3高风险动作加人工确认:删、改权限、对外发送,一律二次确认
4给 Agent 单独的账号和执行环境,不复用人的开发环境
04一段示意配置
把权限写成显式白名单,比靠提示词约束可靠得多。下面是纯示意结构,说明思路,不是可直接用的产品配置。
工具权限白名单(教学示意)
tools:
search\_docs:
scope: read-only
paths: [docs/\*]
query\_db:
scope: select-only
tables: [public\_catalog]
send\_message:
scope: external
require\_confirm: true
deny\_by\_default: true
deny\_by\_default 是关键:默认全拒,只放行明确列出的能力。反过来写,迟早出事。
05审计与兜底
权限收得再紧,也要假设它会被绕过。兜底靠三样东西:
1每次工具调用写审计日志:谁、何时、调了什么、参数是什么
2设速率与额度上限:单次任务、单个会话、单日总量
3可疑链路可一键熔断,用过的凭证定期回收
参考来源
OWASP Top 10 for LLM Applications(OWASP,公开)
NIST AI Risk Management Framework(NIST,公开)
本文为 AI Agent 权限治理的方法论与防护建议,全部配置为教学示意,不提供针对任何系统的利用步骤,不构成未授权测试建议。
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。










评论