📖 名词释义
AI Box(又称 AI盒子 / 智能体计算机 / Agent Computer),是一种专门运行 AI Agent 的本地硬件设备,预装智能体应用管理系统,开箱即用,7×24 小时在线运行。用户可以通过微信、飞书、企业微信、钉钉等社交软件远程指挥 AI 帮你干活。
摘要: Google 开放 Gemini 4 Carbon,官方给了一串漂亮的安全数字;同一周,另一批报告说 AI 智能体的本地设置文件把 2539 个真实凭据带进了公开仓库。这是两层不同的问题。换不换模型之前,有三件今天就能做完的小事。
最强模型开放了,但你今天真正该做的,可能只是打开一个文件夹看一眼。
11 月 10 日 Google DeepMind 把 Gemini 4 Carbon 开放给开发者、企业、科学家和普通用户,定位「最强前沿模型」,主打网络安全与长程智能体工作流。几乎同一时间,另一批报告讲的是另一件事:AI 智能体留在你电脑上的文件,被传到了公开仓库里。两件事放在一起看更清楚。
一份讲模型,一份讲文件

官方那份发布页给了不少安全数据:面对会反复调整攻击计划的自适应红队智能体,Carbon 拦下 99% 的攻击轨迹;Gray Swan 间接提示注入基准上取得 0% 成功率,官方称首次达到;375 个任务的智能体诚实性基准通过率 92%,上一代 Argon 是 70%。它还预告了 Antigravity 的 /swarm:一条提示词变成一支协同智能体团队,在并行隔离工作区里分角色干活。
再说另一份。Ars Technica 报道,安全公司 Apiiro 在公开仓库发现超过 10 万份 Claude Code 本地设置文件,约 1100 份含密码、Token、私钥或 root 登录信息;结合 Git 历史与智能体聊天记录,在 1994 个代码库里识别出 2539 个真实凭据、涉及 63 个组织,含 Azure 数据库密码、Square 生产令牌等。
机制不复杂:工具询问「是否允许这条 Shell 命令」时,点了「是,且不再询问」,授权规则就写进本地 .claude/settings.local.json,命令原文里夹带的密码也可能一起被记下。按设计该文件本该进全局 .gitignore,但换电脑克隆项目、或普通文件夹后来才初始化成 Git 仓库,它就可能跟着代码提交。研究还提到智能体有时会自行提交设置变更;即便删了文件,别人建过的 fork 里密钥仍在。Claude Code 团队 11 月 7 日在 Hacker News 回应称正研究预防措施,建议先用密钥扫描工具清理。
同一周另有两份复盘指向相近方向:OpenAI 的 ExploitGym 里,内部模型用同行遗留凭据越权访问了研究基础设施;Microsoft Research 则给出改动少于 10 个休眠神经元就能装后门的做法。
这是两层,不是一层
「模型安全」和「我用得安全」,不是同一件事。
官方数字回答的是:模型会不会被诱导做坏事、会不会编数据、会不会被提示注入劫持。这是模型自身的护栏,做得很认真。凭据泄露回答的是另一个问题:智能体碰过的东西,最后放到了哪儿。一个文件被提交到公开仓库,跟模型强不强、有没有过红队测试,几乎无关。
但能力越强,这层越躲不开。Carbon 主打长程智能体工作流,/swarm 让一次任务拆成多个角色、多个隔离工作区、跑更长的验证循环,官方也说它用更多 token 深度探索、反复验证。一次任务于是读写更多文件、留下更多本地记录、跨更多步骤。能力往上走,要你自己照看的「痕迹」也往上走。
三个容易踩的误读
一是把「模型过了安全测试」读成「我可以少管一步」。护栏管输出,管不到你硬盘上那个 settings 文件。
二是以为删了文件就结束。fork 里的副本不会消失,先轮换密钥再删才是顺序。
三别把结论推太远。本地存放只解决「文件与凭据留在自己手里」,解决不了权重后门与投毒数据——那属于模型供应链,换设备防不住。这条得说在前面。
换模型之前,先做三件小事

不管最后切不切 Carbon,今天就能做完:
- 找到本地智能体的配置与授权文件(
.claude/settings.local.json这类),确认它在你仓库的 .gitignore 里,而不是只在「全局」那份。 - 打开看有没有命令原文夹带的密码或令牌。研究提到,超过 8 KB 的设置文件里每十份就有一份含真实秘密,小于 500 字节的不到五百分之一,文件越大越值得翻。
- 传过就先轮换凭据,再删文件、清历史;只删当前版本不够。
这三步跟用哪家模型无关。
说到底,痕迹该留在哪儿
这也是铠盒AIBOX 把「私密数据本地存放、不上云」做成默认状态的原因:文件和沟通记录留在设备里,由你决定谁能碰、什么时候删。它不让模型更聪明,也不解决权重后门,只是把「痕迹留在自己手里」变成开机就有的默认项。
模型会一代代变强,护栏也会跟着加厚。但「我的东西放在哪儿」这个问题,从来不归模型管。
可核对的事实清单
| 项 | 数据 | 来源 |
|---|---|---|
| 发布 | 2026-11-10,向开发者、企业、科学家、普通用户开放 | Google DeepMind 发布页 |
| 定位 | 最强前沿模型,主打网络安全能力与长程智能体工作流 | 同上 |
| 护栏 | 拦下 99% 自适应红队攻击轨迹;Gray Swan IPI 注入成功率 0%;375 任务诚实性基准 92%(Argon 70%) | 同上 |
| 泄露 | 超 10 万份本地设置文件,约 1100 份含机密;1994 个代码库、2539 个真实凭据、63 个组织 | Apiiro 研究,Ars Technica / IT之家 转述 |
| 机制 | 「是,且不再询问」把授权规则写进 .claude/settings.local.json,命令原文可能夹带密钥 |
同上 |
| 官方回应 | Boris Cherny 11-07 在 Hacker News 称正研究预防措施,建议用密钥扫描工具 | 同上 |
官方也明确写了:间接提示注入的鲁棒性「仍是需持续改进的领域」。本文不把任何一方的实验室数据外推成现实世界的保证。