网上到处都是两台 DGX Spark（GB10）跑大模型的压测视频，标题一个比一个唬人，动辄「170+ token/s 吞吐」「把数据中心搬上桌面」。
前几天我也把两台 Spark 拿 QSFP 铜缆直连，照着网上的双机配方把 MiMo-V2.6-Flash（TP=2）拉了起来。但我折腾这套环境不是为了测 Hello World，纯粹是想知道：这玩意儿到底能不能接进我日常的 Coding Agent 里当主力模型用？
直接说结论：单人一问一答还能凑合，想开多 Agent 协同或者重度扫代码，劝你趁早死心。
2026-10 Update：如果你手头恰好有一张 RTX 4090 和不低的系统内存（比如 128 GB），完全可以看看后来的替代方案：用 Strata 跑 Qwen3.8-Flash-Next。它把大部分 expert 放在系统内存，常用缓存留在 4090 的显存里，同等扫代码场景下 decode 中位数直接突破 100 tok/s，冷 prefill 近 2800 tok/s。
面对核弹吧少年。
200G 网口与访存带宽 #
很多人看到机器上两个 200G 网口，第一反应是双线聚合能到 400G，机间通信不会拖后腿。
实际拿 ethtool 和 lspci 一看：
-
机间带宽物理上限是 200 Gb/s：两台机器没有机间 NVLink，也没接交换机，靠两条 QSFP 铜缆直连。虽然
ethtool里协商速率是200000Mb/s，但每块 ConnectX-7 在主板上只分到了 PCIe Gen5 x4（32GT/s, Width x4）。单向物理带宽算下来顶天也就 126 Gb/s：32 × 4 × (128/130) ÷ 8 ≈ 15.8 GB/s ≈ 126 Gb/s拿
ib_write_bw实测，单线打满 99.7 Gb/s，双线同时跑是 97.9 + 97.9 ≈ 196 Gb/s。 -
访存带宽才是瓶颈：DGX Spark 用的统一内存是 128 GB LPDDR5X，带宽只有 273 GB/s。 对比一下主流设备：
- RTX 4090：1008 GB/s（显存 24 GB）
- Mac Studio M4 Max：410–546 GB/s
- Mac Studio M3 Ultra：819 GB/s
Spark 的优势在统一内存容量大，能把大模型切成 TP=2 装进两台机器。至于解码速度，依然受 273 GB/s 的内存带宽限制。
短 Prompt 压测 #
先用脚本做常规基准测试：固定 128 token 短 Prompt，打开 ignore_eos，测不同并发下的总吞吐：
| 并发数 | 总吞吐 (token/s) | 耗时与单路情况 |
|---|---|---|
| 1 | 37.1 | 单路解码约 43.8 token/s |
| 2 | 73.6 | 吞吐基本翻倍 |
| 4 | 127.4 | 多路扩展性尚可 |
| 6 | 172.7 | 总吞吐峰值，整批耗时 4.5s |
| 8 | 79.8 | 墙钟拉到 12.8s，单路散在 10–47 token/s |
从表上看，6 并发达到吞吐峰值；到 8 并发时总吞吐回落，单路速度也散开，但没有看到调度器报错。单路空载最快能摸到 54 token/s；平时一个人单聊、系统 Prompt 能吃上 90% 前缀缓存的时候，生成大约在 35–45 token/s。
很多评测测的是这类只有几百字节的空载短请求，大家各自解自己的 token，各走各的，互不干扰。
5 个子 Agent 扫项目实测 #
测完跑分，我把它挂进常用的 Coding Agent 里，开了 5 个子 Agent 去探索一个中型开源项目的代码库。
后台监控显示 HTTP 请求全是 200，排队数是 0。
但从终端看实际进度：单路生成速度一下子掉到 15–25 token/s，整整跑了 6 分钟，连一个子 Agent 的总结都没吐完。
这次会话里明确记录的指标是：请求全为 200，排队为 0，每路 15–25 token/s，六分钟没有最终结果。另外一次两路同时解码，合计大约 65–75 token/s，每路约 30–37。短测的峰值是 128 token、ignore_eos 下的合计，和这次真实任务不是同一种输入。
长预填是另一次观察到的情况。大约 25 万 token 的预填可以自己占掉几分钟，并且会把同一段统计里的生成速度拉低。这次没有记下每路的输入长度，也没有记下前缀命中率。单人聊天时约 90% 的命中主要来自重复的系统提示；子 Agent 各自读不同的文件，前缀命中率自然大幅下降。
社区双机实测记录 #
公开的 GLM-5.3-Flash NVFP4，双机单路大约 20–30 token/s，四台大约 36。显卡从 1500 MHz 拉到 2100 MHz，解码大约多 4%，这是三台那篇的数据，不要和四台的 35.7 算成同一次。标题写 43.4 的那篇，正文中位数是 21.8。六十多 token/s 来自更低比特的 EXL3，加上结构化输出和短上下文。DeepSeek V4.1 Flash 的正式权重按四台配方在跑；两台 EXL3 的目录有了，仓库标的是还没跑分。每条数字的链接在文末。
换成魔改卡的考量 #
同样的预算，买魔改卡是否划算，得把整套平台的支出一起算：
- 魔改 RTX 4090（48G）：单卡 1008 GB/s，带宽是 Spark 的三倍还多。但单张卡需要配合主板、CPU、大容量内存、千瓦电源和机箱散热，2026 年的内存价格并不便宜。如果手头本来就有高规格台式机，成本会低很多。
- 魔改 RTX 5090（96G）：速桥在阿里巴巴的报价是 3888 美元裸卡价。报道指出商品页把显存写成 GDDR6X 14Gbps，与 96GB 对不上，第一批批次缺乏第三方拆机验证。cnBeta，Tom’s Hardware
- 两台 Spark：整机即用，NVIDIA 标称整机电源 240W、GB10 芯片 TDP 140W，带原厂保修，128 GB 内存已包含在整机价格内。
带宽差是硬件规格，整机和组装平台的整体投入因人而异，这里不做绝对的成本高低定论。
实际适用场景 #
手头有两台 DGX Spark 时，比较合理的定位是：
- 适合的场景：单人交互、一问一答、单任务写代码。配合稳定的系统 Prompt 和高命中率的前缀缓存，35–45 token/s 处于可用状态，核心价值是不依赖云端 API、数据留在本地。
- 不适合的场景：作为多 Agent 并发后端、全仓代码审计、高并发长任务。在这类负载下，LPDDR5X 的访存带宽和长上下文 Prefill 耗时会立刻成为瓶颈。
继续堆机器能解决的是把模型装进内存，改变不了单路解码受访存带宽制约的事实。真实的多 Agent 负载下，瓶颈依然在物理带宽上。
来源 #
本文自己的数，和别人帖子里的数分开。
这两台机器，2026 年 9 月测的，没有对外日志。 MiMo 用的是 tonyd2wild 的双机配方，TP=2，mimo-v2.6-flash，max_model_len 30 万，max_num_seqs 8，服务在头节点 :8888。短 Prompt 表是本机打的 128 token、ignore_eos。五子 Agent 是同一次服务上的真实会话：没有排队，每路大约 15–25 token/s，六分钟没有最终结果。ethtool 两条口都报 200000Mb/s、Direct Attach Copper；lspci 两条都是 PCIe Gen5 x4（32GT/s, Width x4）。126 Gb/s 是用这个链路参数算的：32 × 4 × (128/130) ÷ 8。ib_write_bw 一条大约 99.7 Gb/s，两条同时大约 97.9 + 97.9。
规格页标注：
- DGX Spark 内存带宽 273 GB/s、128 GB LPDDR5X、电源 240W、GB10 TDP 140W：NVIDIA 规格
- RTX 4090 显存带宽 1008 GB/s、24 GB：NVIDIA GeForce。48G 是魔改容量，带宽数字仍是原卡规格，没有统一的 48G 规格书。
- Mac Studio：M4 Max 410 GB/s，40 核 GPU 那一档 546 GB/s；M3 Ultra 819 GB/s。Apple 技术规格
社区跑分参考： 升频大约 4% 来自三台那篇，四台 35.7 是另一篇。
- 双机 NVFP4，正文中位数 21.8 token/s，峰值 22.7；标题写 43.4。同一篇末尾四台 TP4 是 35.7。NVIDIA 论坛
- 另一组双机：代码 24.7，结构化 30.3，普通文本 19.6；关掉推测解码 14.6。单路、temperature 0。论坛，配方
- 三台 TP3：1500 MHz 解码 35.2，2100 MHz 是 36.8。大约 16 万 token 上下文时，2 路每路 7.5，3 路每路 6.1。NVIDIA 论坛
- 双机 EXL3 4bpw：结构化单路 62.9，普通文本中位数 26.9。MiaAI
- 单机 EXL3 2.05bpw：结构化大约 64，普通文本大约 25。跟帖提到空转和质量问题。论坛，模型卡
- DeepSeek V4.1 Flash 四台环网，单路大约 43–50 token/s。记录。另一篇四台帖的普通文本生成是 23 token/s。论坛。两台 EXL3 标成未跑分；四台 EXL3 普通文本 30.2、代码 33.4。配方