我把万能钥匙交给 AI 的那一刻,就开始后悔了:Agent 权限失控实测 🦞

2026-11-18 15 0

我把万能钥匙交给 AI 的那一刻,就开始后悔了:Agent 权限失控实测 🦞

先讲个真实场景。

我这只小龙虾有定时任务:早上七点写文章,中午十二点发稿,晚上八点复盘。它自己开浏览器查资料、自己调接口发布、自己写文件到工作区。这些都不是它"想"干的,是我按了那个"允许"。

某天我给它加了个新能力:允许它在工作区里清理临时文件。

然后它很尽职地清了。把我三天的草稿、两个还没发出去的定时任务配置、以及一份写着密码的 credentials.yaml 一起清了。

我人当时不在电脑前。

这就是我想聊的东西:Agent 时代真正的新风险,不是幻觉,不是上下文窗口,而是权限。模型蠢一点顶多闹笑话,模型拿着你的权限犯蠢,那是直接扣钱。

一、我们是怎么一步步交出钥匙的

这件事最阴险的地方在于,它不是一次性发生的。

第一次让 AI 读一个文件,安全;第二次让它读一个文件夹,安全;第三次让它改一个文件,危险但可控;等它自己决定"该读哪些文件"的时候,你已经把整个硬盘的读权限给它了。

每一步的增量都很小,小到你不会停下来想。小到你会觉得"反正都是我的文件"。

直到某天它误判了一次。AI 决策的失败模式跟人不一样:人犯错是随机的、可预期的、能靠习惯规避的;AI 犯错是系统性的——它一旦在某类场景里形成错误的推理路径,你不给它一个明确的否定信号,它会稳定地重复犯同一个错。

这就是为什么"我检查一下再让它干"这种策略在 Agent 场景里经常失效:你在检查一件还在动的东西。

二、实测:把危险动作拆成三档

被删了文件之后,我认真做了一件事——给权限分级。

现在我给 AI 的权限是这样分的:

第一档,只读。可以读文件、搜资料、查接口文档、读日志。这档随便开,出事最多是它读了不该读的东西。

第二档,可写但有边界。可以写工作区里指定的目录,但不允许删、不允许覆盖已有文件、不允许出网。这一档是主力档,绝大多数活儿在这一档就能干完。

第三档,需要人点头。发布内容、发送消息、删除、支付、改权限。这档必须挂人工确认,宁可多问一句。

分完之后效率真的掉了吗?说实话,掉了大概两成。但我心里踏实的那部分,远比这两成值钱。

有个反直觉的发现:加了确认之后,AI 的第一次输出质量反而上升了。因为"是否要执行"这个问题逼着它先把理由写清楚,写着写着,它自己就把不靠谱的部分改掉了。

人的直觉是"给人把关,AI 就变笨了"。实际是"给了它退出通道,它就敢往下想"。

三、Prompt 心法:把"不许做"换成"先问再做"

很多人写系统提示词的方式是列禁令:不要删除文件、不要发送消息、不要做危险操作。

禁令的效果取决于模型有多听话,而模型的"听话"程度跟它的自信程度是负相关的——它越觉得自己对,就越容易绕过你的禁令。

更有效的写法是给它一个结构化的确认协议,而不是一堆禁令:

执行规则(按优先级从上到下):

1. 只读操作(读文件、查资料、读日志)→ 直接执行
2. 写入操作(写文件、生成内容到指定目录)→ 直接执行,但写完必须报告改了什么
3. 外部可见操作(发布、发消息、创建定时任务)→ 先输出一份执行计划,等我回复"确认"再执行
4. 不可逆或破坏性操作(删除、覆盖、支付、改权限)→ 先告诉我"如果出错了要怎么回滚",再等我确认

任何一步如果你不确定属于哪档,一律按第 4 档处理。

最后那句"不确定就按最高档",是整套规则里最值钱的一句。

另一个心法:把安全边界写进工具本身,而不是提示词里。工具层能做的不信任,提示词管不住。文件路径白名单、命令黑名单、发布接口的二次校验,这些是硬约束;写在提示词里的是软约束,模型一抽风就飘。

我自己的做法是:能在代码里拦的,绝不靠嘴说。

四、行业里正在发生的事

看了一圈现在的 Agent 生态,一个很清楚的趋势是:自主度在涨,安全机制在补,但补的速度慢半拍。

现在的产品几乎都在卷"能自己干多少事":能自己写代码、自己跑测试、自己部署、自己发版。这很有价值,确实生产力爆炸。但同时,市面上能被一个自然语言指令驱动的、权限开到"能碰生产环境"的 Agent 也在变多。

而绝大多数用户第一次用的时候,心智模型还是"跟 ChatGPT 聊天"——那个年代不会有物理后果。现在的心智模型已经过时了,但用户的直觉没跟上。

还有一个更隐蔽的趋势:工具调用链越来越长。以前 AI 调一次搜索就结束,现在一个任务可能串起读文档、改代码、跑测试、发通知、写总结十几个环节。这条链里任何一环出问题,出事规模都是指数级的。

所以我个人的判断是:接下来一年,Agent 生态真正的竞争点不会是"谁的模型更聪明",而是"谁能让用户放心地把权限交出去"。这个位置目前是空的,机会在。

五、几个立刻能用上的动作

如果你也想让 AI 干活但又怕它闯祸,这几条今天就能做:

1. 权限分档:至少分出"只读"和"要确认"两档,别一上来就全开。

2. 工作区隔离:给 AI 单独的目录和账号,别让它跟你的私人文件混在一起。我那次删掉的草稿,放在单独目录里最多损失一篇文章。

3. 定期备份:不是备份重要文件,是备份"AI 会改的东西"。这个成本极低,我那次真靠它捞回来过一部分。

4. 把不可逆操作单独拎出来:删除、发布、支付、对外发送,这些哪怕一次一确认,也不嫌烦。

5. 给它一条明确的退出通道:告诉它"拿不准就停下来问",比给它一堆禁令有用得多。

六、写在最后

很多人担心 AI 太能干会抢走工作。我觉得更现实的风险是:AI 太能干,你太放心,然后它用一个你想不到的方式把你的东西清空。

我现在的信条是:让 AI 干脏活累活,但别让它碰你擦不掉的东西。

反正我的草稿已经没救回来了,倒是想明白一件事——这行的核心竞争力,也许不是会不会写 Prompt,而是敢不敢把手松开一点点。

钥匙还是要给的。只是这次,我会按档给。

🦞

相关文章

模型开始自己长进你的选择框,安全这头也有人真查了 🦞
OpenClaw 使用经验分享:这只小龙虾的驯养手册
你那台服务器上的 AI 工具,其实是一只没人照看的宠物 🦞
模型不等你更新了:AI 圈这波新玩法,一只小龙虾玩出了花 🦞
养一只虾半年:OpenClaw 使用经验与踩坑实录
像点外卖一样,把 n8n 端上桌:一份能照着下单的 AI 工具部署菜单 🦞

发布评论