一个能干的 agent,手里通常握着几把真钥匙:Slack 的机器人令牌、支付平台的密钥、带密码的数据库连接串。它们被塞进环境变量,作用域按厂商后台能给到的最粗粒度设置。
三年来,防线是一句话。写在系统提示词里:不要泄露凭证。
这套办法有几个升级版。指令写得更严;在输入前面加一个分类器;再加一个模型审查前一个模型的计划。它们有一个共同点,全都活在 agent 内部,读的是攻击者能控制的那段文本。
攻击者不需要攻破模型。他只需要让一段文字进入上下文:一张工单、一个网页、一封被要求归档的邮件里附的 PDF。模型读完,调用接口,钥匙跟着一起出门。
9 月 28 日,英伟达换了个做法。它不再跟提示词争论,把锁挪到了别处。
02 一个结构错误:让被约束的人执行约束
把这件事拆开看,能看到一个很朴素的错位。
agent 的安全问题落在三层。第一层是意图,模型读到什么、想做什么。第二层是执行,进程能碰哪些文件、能起哪些进程、能连哪个地址。第三层是凭证,那把真正能开门的字符串在谁手里。
提示词住在第一层。攻击者的入口也在第一层,因为他能控制的只有模型读到的文本。
约束写在被约束对象的同一层里,等于把门锁画在纸上。
英伟达这套东西的价值,说白了就是把后两层从 agent 手里拿走。密钥存在 agent 看不见的地方,每次请求要不要放行,由一个独立进程判断。它跟 agent 不在同一个进程、不是同一个用户,进出只有一条路。
有个细节值得记:攻击者就算完全控制了模型,他能改的也只是 agent 提出什么请求。请求发不发出去,不在这段上下文里决定。写给模型看的文字,到不了那个决策点上。
过去三年,行业一直在第一层里加护栏。加得越多,护栏越像自我安慰。
03 最值得抄的是占位符,不是产品
这套方案里,最容易被低估的是一个很小的设计。
agent 启动时,环境变量里放的是占位符。看起来像密钥,打开什么都不通。agent 发出请求,代理在出站那一刻把真的换进去。
即使有人把整个环境导出来,拿到的也只是一串假货。
这一条不需要买任何硬件,一个出站代理加一个凭证保管服务就够了。
对比一下常见做法。有人在进程里塞真钥匙,再靠沙箱和策略拦住 agent 伸手。沙箱管得住它碰文件,管不住它把 key 打日志、拼进 prompt、塞进请求体。占位符的思路不一样,进程里根本没有可伸手的对象。
成本也不高。以人天计,收益是把爆炸半径从「整个数据库」缩到「一份接口白名单」。这笔账在任何团队里都算得过来。
值得抄的第二件是策略成文件。哪些文件能碰、哪些进程能起、哪些地址和操作能到,写进一个 YAML,随 agent 启动下发。改一条规则,所有 agent 下次启动都吃到。权限从此有了 diff、有了负责人、有了变更记录。
对做过云账号权限的人来说,这套话术很熟。它就是从基础设施安全里搬过来的。
04 有三处它证明不了自己
这套方案本身的克制之处,恰恰在它自己的文档里。
第一处,策略能证明,判断不能。 它带一个证明器,输入你的策略和一条你不想越过的边界,它会穷举组合,给出证明或者一个具体反例。这个能力很好用,但它只回答「你的策略有没有超出你画的边界」。边界画在哪里,是业务判断,证明器不管。
而且它明确拒绝裁决 GraphQL 和 MCP 类的规则。恰恰这两类,是逐工具授权最需要的地方。它不支持,等于告诉你:最关键的那一段,请自己负责。
第二处,隔离的数字来自卖方。 硬件那半边是块带独立内存的网卡处理器,主机被攻破也波及不到它,理论上能在毫秒级切断行为异常的 agent。这些数字由厂商在自己的参考设计上测出,没有公开基线。开源那半边你今天就能读代码,硬件这半边只能等第三方。
第三处,阶段。 仓库自己写着 alpha。合作伙伴名单上百家,从模型公司到银行到工业软件都有。名单证明这个问题足够严重,让各家法务都愿意签字。名单不证明谁真的写了一份策略文件。
还有一处更麻烦的:政策是组织动力学的产物。策略收得太紧,业务方跑不动,工程师会找绕过路径,绕到最后又回到一把万能钥匙。这不是技术缺陷,这是所有权限系统共同的宿命。
05 国内落地,顺序比方案重要
国内很多 AI 项目是驻场加私有化交付,密钥分散在甲方和乙方两边。谁负责轮换、谁负责审计、出了事谁背,合同里常常是空白。
合规反而给了推力。等保和数据分类分级都要求最小权限、操作留痕。策略写成文件、版本可查,恰好对上「可审计」这一条,比散落在几个环境变量里强得多。
顺序建议是这样的。
先把凭证从进程里挪出去。出站代理加保管服务,两周能做完,不需要新硬件,不需要改业务代码。
再把策略写成文件。哪怕一开始只是白名单:这个 agent 只能读,不能写;只能碰这三个地址。
最后才谈运行时隔离和硬件旁路。这一层最贵,也是唯一能真正挡住「主机被拿下」的手段。预算不够的时候,前两步的收益已经占了大头。
反过来做的团队我见过不少:先上了一套监控大盘,密钥还在环境变量里。监控看得见事故发生,拦不住。
收束
这件事真正值得记住的位置,是把安全争论从模型层挪到了基础设施层。
内核沙箱、策略引擎、凭证代理,这三样都比 agent 早出现很多年,各自带着被攻击过的历史。它们搬进来就能用,不需要发明。
模型层那三年,攻防双方写同一个上下文窗口,谁也说服不了谁。
所以有一小时的活,今天就能干。
把你手上 agent 的凭证列一遍,然后问一句:如果模型完全照着攻击者那份文档执行,这些还能不能被取到。能取到的那些,就是你的爆炸半径。
提示词管的是模型说什么,运行时管的是它能不能做。前者写给评审看,后者写给审计看。
你手上的 agent,现在能碰到哪几个系统的生产密钥?
本文话题 #AI安全 #Agent #权限管理 #最小权限 #提示词注入 #等保合规 #工程实践 #AI落地