把几个配置，摆在一张表上
两种问法：同一个模型在哪张卡上更快，和同一台机器上哪个框架更快。 表里每一列是一个对比项，每一行是一个指标，数字是中位数，后面跟着支撑它的样本量。 结论只对我们库里这些记录成立——跨硬件不可比，这里做的是数量级参考，不是横评。
先选比什么
最多 6 个对比项两种模式问的是两件不同的事：同一个模型在哪张卡上更快， 和同一台机器上哪个后端更快。换模式等于换一个问题，基准与对比项都不沿用。
这些记录不足以支撑一个排序结论：最高的一项（ollama）证据级别是 L0，还没有人独立复现过——排序需要 L1 及以上。
同一台机器上不同框架的默认参数、batch size 与版本都可能不同——这里比的是记录，不是框架本身。
下面这组是默认示例（记录最多的两项）——是我们替你挑的，不是你的选择； 用上面的选择器换一组，或用链接把它固化到网址里。
能不能放在一起看
逐项核对 6 项 · 另有 1 项是你选来对比的判据是这 7 项：模型 · 量化 · 框架（含版本） · 上下文长度 · 硬件 · batch · 并发数；你选来对比的那一维（框架（含版本））本来就不一样，所以不计入差异数。门槛（写在这里，你可以自己核对）：0 维不同 → 可直接比较；1–2 维不同 → 方向性可比；≥3 维不同 → 不可比。「未核对」不是「一致」：只有一侧有值、或某一列的记录没全登记，一律不给绿灯；双方都没有值的维度会单独点名，也不算一致。门槛要求至少 1 项确认一致，所以"什么都不知道"也不会是绿灯。
不建议直接比较：有 2 项不同 —— 模型（Qwen2.5-7B-Instruct · 未归一化 / Qwen3-14B / Mistral-Nemo-Instruct-2407 · 未归一化 vs Mistral-Nemo-Instruct-2407 · 未归一化）、量化（AWQ 4-bit / Q5_K_M vs AWQ 4-bit / Q4_K_M）。3 项双方都没有值（上下文长度、batch、并发数）—— 它们是「未核对」，不是「一致」。把它们摆在一张表上只能当数量级参考，差额不能算到你想比的那一维头上。
这是两道独立的闸：上面那一道问「能不能排序」（样本量与证据级别够不够）， 这一道问「能不能放在一起看」（条件是否一致）。两个都过，这几个数字才谈得上可比。
点一下加入对比，再点一下移出。括号里的数字是点下去会得到几条记录 （所以 0 意味着这个组合我们还没收录，不是它跑不了）。
横向对比 · 同一硬件 × 多框架
基准：NVIDIA RTX 4090 · 24G · 2 个对比项 · 默认示例四个指标都取中位数，而且只统计有有效样本量的记录 （没有 n 的记录在任何一格都不参与）。decode 与 prefill 越高越快，TTFT 与显存峰值越低越好。 每一格后面的小字是支撑这个数字的样本量；最下面两行是整列的证据级别与样本量合计。 排序结论只对「我们库里这些记录」成立，不构成对硬件或框架能力的判断。
参与这次对比的全部记录5 条记录 · 含跑不通的
参与这次对比的全部记录
5 条 · 最快的排前面本次对比涉及的记录一条不落，每条都带证据级别与样本量，展开可以看到完整字段。
Qwen2.5-7B-Instruct · 未归一化AWQ 4-bit mlx-lm 0.18.2HuggingFace最后入库 1 天前n=17 155.5 5264 2421 — L0 自报 待复现 稳定
「稳定」已被独立来源复现过，当前没有已知分歧。
复现链从这条记录出发，每格是一次独立来源的复现。空链条表示还没有复现记录，不是我们没有记。
要和另一条记录直接比较，这几项得一样：模型 · 量化 · 框架（含版本） · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项，而不是你想比的东西。
完整配置 · 来源 · 复现链 16 项
787c9af8f9ea012dc78d8ab407c7ce11ee280dd5146115d7e0c24779ca7bb073快照长度 109 字符（按码点计）我们存下了抓取那一刻的原文副本与内容哈希，但不转载原文：本站只取事实（数字），不取表达。来源被删除或改版之后，我们可以拿哈希说明「当时读到的就是这段文本」，但不能说明它现在还在。
目前没有断言引用这条记录
高级元数据 5 项
Mistral-Nemo-Instruct-2407 · 未归一化AWQ 4-bit ollama 0.5.1GitHub最后入库 1 天前n=13 86.1 2879 3592 — L0 自报 待复现 稳定
「稳定」已被独立来源复现过，当前没有已知分歧。
复现链从这条记录出发，每格是一次独立来源的复现。空链条表示还没有复现记录，不是我们没有记。
要和另一条记录直接比较，这几项得一样：模型 · 量化 · 框架（含版本） · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项，而不是你想比的东西。
完整配置 · 来源 · 复现链 16 项
7d5c7ca9e045a4b0458f636954eb4c1a3b368f594037d8eee8348e97a9e5eac2快照长度 112 字符（按码点计）我们存下了抓取那一刻的原文副本与内容哈希，但不转载原文：本站只取事实（数字），不取表达。来源被删除或改版之后，我们可以拿哈希说明「当时读到的就是这段文本」，但不能说明它现在还在。
目前没有断言引用这条记录
高级元数据 5 项
Mistral-Nemo-Instruct-2407 · 未归一化Q4_K_M ollama 0.5.1知乎最后入库 1 天前n=5 80.7 2699 3780 — L0 自报 待复现 待判定
「待判定」只有一次或单一来源的读数，还没等到独立复现。数字照常可用，但按 L0/L1 对待。
复现链从这条记录出发，每格是一次独立来源的复现。空链条表示还没有复现记录，不是我们没有记。
要和另一条记录直接比较，这几项得一样：模型 · 量化 · 框架（含版本） · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项，而不是你想比的东西。
完整配置 · 来源 · 复现链 16 项
0362a62478ce989ec777c68548760f0e4f6c2ae48d636b12af3f58190a3346be快照长度 109 字符（按码点计）我们存下了抓取那一刻的原文副本与内容哈希，但不转载原文：本站只取事实（数字），不取表达。来源被删除或改版之后，我们可以拿哈希说明「当时读到的就是这段文本」，但不能说明它现在还在。
目前没有断言引用这条记录
高级元数据 5 项
Mistral-Nemo-Instruct-2407 · 未归一化Q5_K_M mlx-lm 0.18.2Arao 自产最后入库 1 天前n=9 72.9 2467 4280 — L2 跨框架已验证 稳定
「稳定」已被独立来源复现过，当前没有已知分歧。
复现链从这条记录出发，每格是一次独立来源的复现。空链条表示还没有复现记录，不是我们没有记。
要和另一条记录直接比较，这几项得一样：模型 · 量化 · 框架（含版本） · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项，而不是你想比的东西。
完整配置 · 来源 · 复现链 16 项
86fa0db14f2e8a4a755a366ccca69968899989a1d3ce63c0a5d8f467c480404a快照长度 106 字符（按码点计）我们存下了抓取那一刻的原文副本与内容哈希，但不转载原文：本站只取事实（数字），不取表达。来源被删除或改版之后，我们可以拿哈希说明「当时读到的就是这段文本」，但不能说明它现在还在。
目前没有断言引用这条记录
高级元数据 5 项
Qwen3-14BQ5_K_M mlx-lm 0.18.2Reddit最后入库 1 天前n=4 62.5 2115 4863 — L1 已复现 1 次 待判定
「待判定」只有一次或单一来源的读数，还没等到独立复现。数字照常可用，但按 L0/L1 对待。
复现链从这条记录出发，每格是一次独立来源的复现。空链条表示还没有复现记录，不是我们没有记。
要和另一条记录直接比较，这几项得一样：模型 · 量化 · 框架（含版本） · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项，而不是你想比的东西。
完整配置 · 来源 · 复现链 16 项
4d98aa0cba296bab078f728186f7cc76eaffc569b3e785491debf19d59d696c7快照长度 91 字符（按码点计）我们存下了抓取那一刻的原文副本与内容哈希，但不转载原文：本站只取事实（数字），不取表达。来源被删除或改版之后，我们可以拿哈希说明「当时读到的就是这段文本」，但不能说明它现在还在。
目前没有断言引用这条记录
高级元数据 5 项
这一页怎么比的为什么用中位数 · 排序为什么要两道闸 · 为什么不给排序下强结论 · 上限是多少
这一页怎么比的
- 四个指标都取中位数，而且只统计有有效样本量的记录。中位数对个别离群值不敏感； 没有样本量的记录在任何一格都不参与——一个没有 n 的统计值和编出来的数字没有区别。 每一格后面的小字就是支撑它的样本量。
- 排序只看 decode 中位数，而且有两道闸。要给出「谁的 decode 中位数最高」这句话， 最高那一项必须至少 n≥3、证据级别至少 L1。单次观测排不出高低， 自报数字排出来的顺序也不构成可比性。任何一条不满足，这一页就直接说 「这些记录不足以支撑一个排序结论」——不硬指定谁更高。
- 这里不给排序下强结论。跨硬件不可比，只做数量级参考：不同厂商、不同后端、 不同 batch size 的数字放在一张表里，能回答的是「差几倍」，不是「谁更强」。 买哪张卡、用哪个框架，还要看你的预算、你的模型和你的耐心——那些都不在这张表里。
- 对比项有数量上限。超过上限的网址会被拒绝（返回 400 页并说明超了几个）， 而不是悄悄丢掉多余的项——那种"看起来筛了、其实没筛"的失败最难发现。 上限写在页面上方的模式切换那一块里，数字取自代码里的同一个常量。
- 每个对比项都能点进去。列头是链接，指向数据页里筛好的那份记录； 页尾折叠体里是本次对比涉及的全部记录，每条都带证据级别、样本量与原始来源。