RTX Spark 预售火爆,社交媒体上"人人都该有台本地 AI 机器"的声音又起来了。作为一个常年在 Mac 上折腾本地模型的人,我想在你下单之前泼一盆理性的水。
先说结论:大多数人不需要本地 AI 硬件。少数需要的人,选择比想象中清晰。
先回答:你真的需要本地算力吗
本地跑模型只有三个站得住的理由:
- 数据不能出机器:法律、医疗、金融合规,或者就是不想把数据给任何云
- 调用量大到订阅不划算:全天候跑的 agent 管线、批量处理任务
- 折腾本身就是乐趣:这是正当理由,不用不好意思承认
如果三条都不沾,云端订阅加 API 就是你的最优解。旗舰模型的能力和本地 30B 模型的差距依然是代差,为了"本地"这个情怀牺牲能力,日常使用会后悔。
三条路线的真实成本
| 路线 | 前期投入 | 能跑什么 | 适合谁 |
|---|---|---|---|
| 云端订阅 + API | 几乎为零 | 全部旗舰模型 | 90% 的人 |
| Mac(大内存款) | 中高 | 30B-70B 量化模型,速度尚可 | 已有 Mac 工作流的开发者 |
| RTX Spark | 高 | 30B 级全速,官方称 1 petaflop | 重度本地 agent 用户、隐私刚需行业 |
几个容易被宣传掩盖的细节:
Mac 的统一内存依然是隐形冠军。 大内存的 Mac 跑量化模型的体验被长期低估,安静、省电、还是台正经电脑。缺点是推理速度和 CUDA 生态比不过英伟达,训练微调基本别想。
RTX Spark 的算力有前提。 1 petaflop 是特定精度下的峰值数字,实际跑通用推理的有效性能要打折扣。它真正的优势是 CUDA 生态:几乎所有开源工具链开箱即用,这是 Mac 阵营短期追不上的。
电费和噪音是长期成本。 全天候跑 agent 的桌面设备,一年电费不是小数目,而且它在你的房间里,风扇声也在。
我的建议
- 普通用户:什么都别买,把预算拿去订阅。Grok 4.5 免费档加一个主力订阅,能力覆盖 99% 的场景
- 开发者:如果已经用大内存 Mac,先把本地量化模型玩起来,真遇到瓶颈再加硬件
- 隐私刚需:等 RTX Spark 首批真实评测出来再下手,桌面 AI 硬件是新品类,第一代产品的坑只有首批买家知道
- 企业:本地化部署找集成商谈方案,别拿消费级硬件凑合,运维成本会吃掉省下的每一分钱
桌面算力的时代确实在来的路上,但"在路上"和"到了"之间,通常隔着一代产品。让子弹先飞一会儿。