📖 名词释义
AI Box(又称 AI盒子 / 智能体计算机 / Agent Computer),是一种专门运行 AI Agent 的本地硬件设备,预装智能体应用管理系统,开箱即用,7×24 小时在线运行。用户可以通过微信、飞书、企业微信、钉钉等社交软件远程指挥 AI 帮你干活。
摘要: Mac mini 不是标准答案,它只是六条路里排在中间的一条。选哪条路其实只看三个数:内存装得下多大的模型、带宽每秒能吐多少字、这台机器明天还在不在。更重要的是分清两件事:跑 Agent 不需要贵机器,一千一百九十九就够;而要本地自己跑大模型,6999 这台也只到 7B 到 14B,想要更强得往上跳一档。三条判据、一个能自己算的公式、六条路的价格和门槛,都在下面。
这两年只要有人问「想给自己装个私人 AI 助手,买什么」,答案几乎是条件反射:Mac mini。
它确实是好机器。2026 年 9 月这代,M6 版 6999 元起,16GB 统一内存,带宽 153 到 170GB/s,还安静。但它变成默认答案,更多是因为过去两年市面上确实没有第二个像样的选择,而不是因为它对每个人都合适。
所以这篇不做推荐,只把路摆出来。
先给结论:只看三个数
不管你走哪条路,最后能不能用得舒服,由三个数决定,跟品牌、跟跑分、跟发布会都没关系。
一,内存容量。决定它能装下多大的模型。四比特量化下,每个参数大约占半字节,所以 7B 的模型差不多 4GB,14B 差不多 9GB,70B 要到 40GB 上下。这还是裸权重,跑起来还得加上下文缓存。装不下就是装不下,没有优化空间。
二,内存带宽。决定它每秒能吐多少字。这一条最容易被忽略,也是六条路差距最大的地方。
三,它明天还在不在。能一直开着的才叫助手,只能开两小时的叫工具。
一个能自己算的公式

解码速度大致等于内存带宽除以模型体积:
每秒字数 ≈ 带宽(GB/s)÷ 模型体积(GB)
拿 7B 的四比特版本当基准,它大约 4GB。
树莓派 5 的带宽是 16GB/s,16 除以 4 等于 4,实测就是每秒 3 到 5 个字。Mac mini M6 是 170GB/s,算出来四十出头,和别人的实测对得上。一张 RTX 3090 是 936GB/s,算式给出的量级是两百以上。
这个公式能解释一个很多人都遇到过的事:同一个模型,换台机器就「变笨」了。模型没变,是带宽变了。
顺带说一句,这是量级估算,不是承诺。量化格式、上下文长度、推理框架都会往下拉,拉到多少得实测。
六条路,按先花多少钱排
一、手边的旧电脑:0 元
最该先试的一条,因为它能回答一个更前置的问题:你到底需不需要一台专门的机器。
找一台不用的笔记本或台式机,装上框架,把「合盖休眠」关掉。能跑起来,你就知道自己会不会真的用它;跑两天就不想碰了,那省下的不只是一台 Mac mini 的钱。
代价是电池、噪音和不能断电。旧笔记本电池衰减之后,断电重启就是一次中断,这是它和常驻机器最实在的差别。
二、树莓派这类小板子:裸板 120 美元
16GB 版本官方价 120 美元,带宽只有 16GB/s。它能跑 7B,每秒三到五个字,够用来每天早上跑一次汇总、整理一批文件、做一轮分类,因为这些活不需要你在旁边等。
但它不适合对话。你问一句,等半分钟,这种体验撑不过三天。
三、Mac mini:6999 元起
16GB 统一内存、170GB/s 带宽。这里要说准一点:16GB 里系统要占掉四五个 G,真正能留给模型的是十来 G。所以它跑 7B 到 8B 很舒服,每秒二三十个字;14B 也能跑,但权重加上下文缓存要 14GB 左右,余量只剩一两个 G,后台多开几个网页就可能开始换页,速度掉到每秒十来字;32B 要 18GB 以上,直接触发内存交换,速度断崖式下跌。
这也解释了它为什么被推荐:在这个价位上,它的带宽确实是消费级里最高的之一。
要留意两件事。一是 6999 是不含显示器的价格,键盘鼠标也得另配。二是想真跑 32B 以上,得从 12999 那档起。
四、统一内存的迷你主机:13499 元起
用 AMD 那颗 Strix Halo 的机器,64GB 内存加 1TB 的版本到手一万三千多,128GB 版本一万五左右。它的意义在于容量:128GB 里能划出 96GB 给 GPU 直接调用,这是消费级独显给不了的。
代价是带宽。这类机器的 LPDDR5X 在 200 到 270GB/s,比 3090 的 936GB/s 差了三倍多。所以它能装下 70B,但跑不快。有实际用过的人说得很直接:27B 以内、长上下文能跑,70B 以上在 agent 场景里要等很久。
还有一点,这类机器的内存是焊死的,买多少就是多少。
五、二手独显台式机:卡 7200 元
二手 3090 大概七千二,24GB 显存,936GB/s 带宽。这是纯速度路线:同样的 7B,它比 Mac mini 快五倍以上。
代价是另外三样:整机还得配主板、CPU、内存、电源、机箱;满载功耗和噪音不是客厅能接受的;二手卡没有质保。
六、租云 GPU:每小时十几块
H100 按小时租,价格在十块到二十块出头之间浮动,spot 能到七块多。如果你一周用它不到四十小时,租比买划算,这是很多人跳过的选项。
代价是两条:数据要出门,而且关机就没了。你要的是「一直替我值班」,这条路从定义上就不成立,它适合的是「偶尔跑一次重活」。
六条路放在一张表里

| 路子 | 到手价 | 卡在哪 | 适合 |
|---|---|---|---|
| 旧电脑 | 0 元 | 电池、不能断电 | 先验证需求 |
| 树莓派 | 裸板 120 美元 | 16GB/s,只能 7B 级 | 后台跑批 |
| Mac mini | 6999 元起 | 只能到 14B,32B 要加钱 | 苹果生态、7B–14B |
| 统一内存机 | 13499 元起 | 贵、内存焊死、70B 慢 | 要装 70B 级 |
| 二手独显机 | 卡 7200 元 | 功耗噪音、无质保 | 追求速度 |
| 租云 GPU | 按小时 | 数据出门、关机即消失 | 一周用不到 40 小时 |
什么情况下 Mac mini 仍然是最优解
如果这三条你都占:已经在苹果生态里、需要一台安静的桌面主机顺便当电脑用、主要跑 7B 到 8B、最多 14B 的模型。那 6999 那台就是答案,不用再看别的。
同理,如果你只是偶尔问两句、写点东西,浏览器里的网页版就够了,一台专门的机器是浪费。如果你一周只在白天上班那八小时用得上,笔记本上的方案完全够用。
一份盘点如果最后说「全都不如我」,那它就不是盘点。
一条更省事的路
上面六条路有一个共同点:都要求你自己把机器变成一台能常驻的助手。装系统、配环境、调休眠、盯着它别掉线,这些活不写在价格里,但要花掉一个周末。
铠盒AIBOX 走的是另一条:不做裸硬件,做成品。
如果要和 Mac mini 摆在一起比,其实只需要看一台:A1。1,199 元,4GB 内存,本地只跑 Agent,不跑本地大模型。价格是 Mac mini 的六分之一左右。
两台都调云端时,效果没有差别,原因在架构上。 Agent 的活不在本地算:读文件、调工具、排任务、写记忆,真正要动脑子的那步推理,是发给云端模型的。所以这台机器要的不是算力,是七乘二十四小时醒着。5 到 12 瓦,全被动散热,没有风扇声,系统和框架都预装好,插电就能用。
具体到体验, 同一个 Agent 任务——比如让它把一批文件按日期归档、再写一份摘要——两台机器的时间差在云端模型的响应上,不在本机。真正能被你感觉到的只有三样:桌上有没有风扇声、一年交多少电费、那台机器能不能顺带当电脑。
所以判断标准很干脆。 Mac mini 顺带是一台电脑,显示器一接就能办公;A1 不是,它就是一台常驻的助手。你要「顺便还有台电脑」,买 Mac mini;你要「有个人一直在」,A1 就够了,价格差六倍。
那 6999 元,买到的到底是什么
有人会说:Mac mini 至少能在本地跑模型,A1 不能。
这句没错,但要看跑的是哪一个。16GB 能跑的是 7B 这一档,四比特量化后 4.5GB。而 A1 接的是云端几百 B 的模型。这两者不是「差不多」,是差一个代际——7B 在分类、摘要、格式转换上够用,一旦要多步推理、要读几十页文档、要改一段别人的代码,它就开始编;几百 B 的模型干这些是日常。
所以那 6999 元买到的不是「更强的 AI」,是「断网也能跑一个弱一档的 AI」。这个能力对少数人是刚需:涉密环境、没有稳定网络、材料绝对不能出门。对大多数人不是——你多花六倍的钱,换来的是一台能力退了一档的助手。
如果本地也要跑到接近云端的水平,7B 不够,得 70B 以上、内存 128GB 起——那是 F1 那一档,两万二起步,跟 6999 这台不是一个量级。这条路存在,但它不是「加点钱」能到的。
说清楚边界:A1 不是最便宜的方案(旧电脑是 0 元),也不是算力最强的。它省下的是那个周末,以及之后每次折腾的时间。
路有六条,没有一条适合所有人。你要先想清楚的是那个问题:你是想跑一次模型,还是想有一个人一直在。