📖 名词释义
AI Box(又称 AI盒子 / 智能体计算机 / Agent Computer),是一种专门运行 AI Agent 的本地硬件设备,预装智能体应用管理系统,开箱即用,7×24 小时在线运行。用户可以通过微信、飞书、企业微信、钉钉等社交软件远程指挥 AI 帮你干活。
摘要: 「端侧」「离线」「本地存放」「私有」是四件不同的事。给一份五句话的判断清单,用最近两组官方数字说明端侧语音已经可用,再把一句睡前提醒从头走一遍——重点不是能不能听懂,是那句话最后存在哪儿。
「本地运行」这四个字现在随处可见,却常被用来指四件不同的事。你问「我说的话会不会传出去」,对方答的可能是「模型权重在你设备上」。两句都对,不是同一个答案。
先给一份能直接用的判断清单,再讲它落到一句话上会怎样。
四个词,不是一回事
端侧:计算在这台设备里完成,推理不借服务器。 离线:断网也能跑完,不依赖外部请求。 本地存放:数据写在这台设备上,不写进别人的数据库。 私有:谁能读、谁能删、留多久,规则由你定。
它们可以单独成立:模型在端侧跑,但每次要联网校验账号;文件存在本地,却被同步功能顺手备份到云上;功能断网可用,首次下载的模型却来自外部。把四个词分开,宣传语就不再含糊。
判断清单:五句话问完

不管厂商怎么描述,五句问完基本能定位:
- 断网能不能跑完整个动作?只测一轮对话不够,要测「说完、记住、到点提醒」这一条。
- 模型权重在哪台机器上?是设备里已有的文件,还是每次去远端取结果。
- 账号或 API key 是不是必经?有些「本地应用」只是本地界面,思考仍在云侧,钥匙一断就停。
- 有没有第二份副本?日志、诊断信息、自动同步、崩溃上报,都算。
- 我能不能自己看、改、删?看不到就谈不上「由你决定」。
这五句不只适用于语音,换成文件、图片、聊天记录一样成立。
最近两组数字,说明它已经不是概念
11 月 10 日,Google 在 AI Edge Gallery 里加入端侧语音识别与语音合成,官方用词是「completely offline」:把轻量语音模型和设备上已跑的小模型(Android 的 Gemini Nano、其他平台的 Gemma 4)接起来,就能实时转写并在本地合成回答。Android 那条走 ML Kit,支持 100 多种语言、转录 10 倍实时;少步扩散 TTS 约 100 毫秒出声,24 kHz 音频,合成最高 50 倍实时,模型集成在系统里,APK 不增加体积。跨平台那条给的是开放权重模型包,Parakeet-TDT 0.6B、PocketTTS 100M 等都在列。
11 月 9 日 Zyphra 放出 ZONOS3-Mini:稀疏 MoE,1 亿活跃参数、8 亿总参数,Apache 2.0,浏览器里用 WebGPU 就能跑。官方首音频延迟:Pixel 9 低于 570 毫秒、M3 MacBook Air 低于 150 毫秒。
两条放一起:把「听」和「说」留在设备里,已从能不能做变成延迟多少。剩下的不是技术问题,是你怎么确认它真的没出去。
把一句话走一遍

晚上临睡前,你说一句:「把今天要跟的那三件事记下来,明早七点提醒我。」
链路真在本地时会这样走:麦克风收音频,端侧转写把声音变成文字,本机小模型理解出「三件事」和「明早七点」,写进这台设备的记录,定时器到点推回来。每一步都问同一句——有没有出过这台机器?五个答案都是没有,才算完整。
换成另一类产品:音频上传、云端转写、云端理解、结果存进账号、推送从服务器回来。它可能更好用甚至更聪明,但那是另一份答案。
最容易漏的是「存下来」。很多演示只证明前半段能离线,记录却同步到了账号里。要验的恰恰是后半段:三个月前那句提醒,今天还在不在这台机器上,能不能自己删掉。
这也是一台常开的机器和「你打开它才存在」的工具的差别。铠盒AIBOX 把私密数据和沟通记录留在设备里,不上云;最容易被忽略的「存下来」,因此不用额外设置就落在本地。它不负责让模型更聪明,只让这句提醒有个不会跑出去的地方待着。
也得说清楚它不做什么
- 本地不等于不联网。取模型、更新系统、转发消息仍可能联网,那部分请求该说清楚。
- 本地不等于不用钥匙。接云侧模型仍要 API key、照算费用;断网能跑的是本地那部分。
- 端侧小模型和云端大模型不是一回事。要实时联网信息、长篇重推理,别指望低功耗设备全包。
- 数据放在本地不等于自动备份,硬盘该备份还是得备份。
- 本文无真实用户运行数据,上面是场景演示不是实测;数字均来自两家官方发布页。
适用与不适用
适合:低延迟语音交互、不想上传的家庭与工作材料、断网场景、需要长期记住但不愿留在别人账号里的碎事。 不适合:实时外部信息检索、大规模推理、必须由平台侧完成的交易——比如订机票,本地与否都改不了平台规则。
把四个词分开、问完五句话,再决定要不要把一件事交给它。这比看宣传语里有没有「本地」靠谱得多。