NVIDIA RTX 4090 · 24G在我们记录里的实测
关于这台机器，我们收录了 6 条记录。 这一页把它们摊开：中位吞吐与区间、每一行的样本量与证据级别，以及我们没有收录的组合 ——缺的那些我们不会替你补一个数字。
在当前记录里，NVIDIA RTX 4090 · 24G 的解码吞吐中位数是 77.6 tok/s （62.5 – 155.5，n=56，共 6 条记录）， 最高证据级别是 L2 跨框架已验证。
在这些模型里，Qwen2.5-7B-Instruct · 未归一化 的中位数最高（中位 155.5 tok/s， n=17，证据 L0）。 这是表里数字的高低，不是我们在替你选——样本量、量化档、框架都不同，能核对的都在表里。
模型 × 这台机器
3 个模型 · 6 条记录同一台机器上不同模型之间的数字也不是同一件事：量化档、框架、上下文长度都会影响结果。 这张表只回答「我们在这个组合上测到过什么」。
行按记录条数降序排列——条数是「我们有多少条观测」，不是「谁更强」：不同模型之间的量化档、框架、上下文长度都不一样。每一行的 n= 是那一格参与统计的样本量之和；没有有效样本量的格子不渲染数字，渲染 ———— 是"我们不知道"，不是 0。
| 模型 | decode 中位 | 区间 | 记录数 | 证据 |
|---|---|---|---|---|
| Mistral-Nemo-Instruct-2407 · 未归一化 | 77.6tok/sn=35 | 72.9 – 86.1tok/s | 4条占 67% | L2 跨框架已验证 |
| Qwen2.5-7B-Instruct · 未归一化 | 155.5tok/sn=17 | 155.5 – 155.5tok/s | 1条占 17% | L0 自报 |
| Qwen3-14B14B | 62.5tok/sn=4 | 62.5 – 62.5tok/s | 1条占 17% | L1 已复现 |
表里没有 DeepSeek-R1-Distill-Qwen-14B · 未归一化、Llama-3.1-8B-Instruct · 未归一化、phi-4 · 未归一化、Qwen3-32B：我们还没收录这个组合。 「没有数据」不等于「跑不动」——前者是我们还没收录，后者是有证据表明显存不够。 把前者读成后者，就是拿记录的沉默冒充站方的结论。这不是模型的问题，是我们的缺口。
全部实测记录
含跑不通的Qwen3-14BQ5_K_M mlx-lm 0.18.2Reddit最后入库 1 天前n=4 62.5 2115 4863 — L1 已复现 1 次 待判定
「待判定」只有一次或单一来源的读数，还没等到独立复现。数字照常可用，但按 L0/L1 对待。
复现链从这条记录出发，每格是一次独立来源的复现。空链条表示还没有复现记录，不是我们没有记。
要和另一条记录直接比较，这几项得一样：模型 · 量化 · 框架（含版本） · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项，而不是你想比的东西。
完整配置 · 来源 · 复现链 16 项
4d98aa0cba296bab078f728186f7cc76eaffc569b3e785491debf19d59d696c7快照长度 91 字符（按码点计）我们存下了抓取那一刻的原文副本与内容哈希，但不转载原文：本站只取事实（数字），不取表达。来源被删除或改版之后，我们可以拿哈希说明「当时读到的就是这段文本」，但不能说明它现在还在。
目前没有断言引用这条记录
高级元数据 5 项
Mistral-Nemo-Instruct-2407 · 未归一化Q5_K_M llama.cpp b6120B站最后入库 1 天前n=8 74.4 2530 4280 — L2 跨框架已验证 稳定
「稳定」已被独立来源复现过，当前没有已知分歧。
复现链从这条记录出发，每格是一次独立来源的复现。空链条表示还没有复现记录，不是我们没有记。
要和另一条记录直接比较，这几项得一样：模型 · 量化 · 框架（含版本） · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项，而不是你想比的东西。
完整配置 · 来源 · 复现链 16 项
400528a47128a708e448a961ccb961f7f342e8f3eb2df1794ae5fcd455e33e38快照长度 115 字符（按码点计）我们存下了抓取那一刻的原文副本与内容哈希，但不转载原文：本站只取事实（数字），不取表达。来源被删除或改版之后，我们可以拿哈希说明「当时读到的就是这段文本」，但不能说明它现在还在。
目前没有断言引用这条记录
高级元数据 5 项
Mistral-Nemo-Instruct-2407 · 未归一化Q5_K_M mlx-lm 0.18.2Arao 自产最后入库 1 天前n=9 72.9 2467 4280 — L2 跨框架已验证 稳定
「稳定」已被独立来源复现过，当前没有已知分歧。
复现链从这条记录出发，每格是一次独立来源的复现。空链条表示还没有复现记录，不是我们没有记。
要和另一条记录直接比较，这几项得一样：模型 · 量化 · 框架（含版本） · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项，而不是你想比的东西。
完整配置 · 来源 · 复现链 16 项
86fa0db14f2e8a4a755a366ccca69968899989a1d3ce63c0a5d8f467c480404a快照长度 106 字符（按码点计）我们存下了抓取那一刻的原文副本与内容哈希，但不转载原文：本站只取事实（数字），不取表达。来源被删除或改版之后，我们可以拿哈希说明「当时读到的就是这段文本」，但不能说明它现在还在。
目前没有断言引用这条记录
高级元数据 5 项
Mistral-Nemo-Instruct-2407 · 未归一化Q4_K_M ollama 0.5.1知乎最后入库 1 天前n=5 80.7 2699 3780 — L0 自报 待复现 待判定
「待判定」只有一次或单一来源的读数，还没等到独立复现。数字照常可用，但按 L0/L1 对待。
复现链从这条记录出发，每格是一次独立来源的复现。空链条表示还没有复现记录，不是我们没有记。
要和另一条记录直接比较，这几项得一样：模型 · 量化 · 框架（含版本） · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项，而不是你想比的东西。
完整配置 · 来源 · 复现链 16 项
0362a62478ce989ec777c68548760f0e4f6c2ae48d636b12af3f58190a3346be快照长度 109 字符（按码点计）我们存下了抓取那一刻的原文副本与内容哈希，但不转载原文：本站只取事实（数字），不取表达。来源被删除或改版之后，我们可以拿哈希说明「当时读到的就是这段文本」，但不能说明它现在还在。
目前没有断言引用这条记录
高级元数据 5 项
Qwen2.5-7B-Instruct · 未归一化AWQ 4-bit mlx-lm 0.18.2HuggingFace最后入库 1 天前n=17 155.5 5264 2421 — L0 自报 待复现 稳定
「稳定」已被独立来源复现过，当前没有已知分歧。
复现链从这条记录出发，每格是一次独立来源的复现。空链条表示还没有复现记录，不是我们没有记。
要和另一条记录直接比较，这几项得一样：模型 · 量化 · 框架（含版本） · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项，而不是你想比的东西。
完整配置 · 来源 · 复现链 16 项
787c9af8f9ea012dc78d8ab407c7ce11ee280dd5146115d7e0c24779ca7bb073快照长度 109 字符（按码点计）我们存下了抓取那一刻的原文副本与内容哈希，但不转载原文：本站只取事实（数字），不取表达。来源被删除或改版之后，我们可以拿哈希说明「当时读到的就是这段文本」，但不能说明它现在还在。
目前没有断言引用这条记录
高级元数据 5 项
Mistral-Nemo-Instruct-2407 · 未归一化AWQ 4-bit ollama 0.5.1GitHub最后入库 1 天前n=13 86.1 2879 3592 — L0 自报 待复现 稳定
「稳定」已被独立来源复现过，当前没有已知分歧。
复现链从这条记录出发，每格是一次独立来源的复现。空链条表示还没有复现记录，不是我们没有记。
要和另一条记录直接比较，这几项得一样：模型 · 量化 · 框架（含版本） · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项，而不是你想比的东西。
完整配置 · 来源 · 复现链 16 项
7d5c7ca9e045a4b0458f636954eb4c1a3b368f594037d8eee8348e97a9e5eac2快照长度 112 字符（按码点计）我们存下了抓取那一刻的原文副本与内容哈希，但不转载原文：本站只取事实（数字），不取表达。来源被删除或改版之后，我们可以拿哈希说明「当时读到的就是这段文本」，但不能说明它现在还在。
目前没有断言引用这条记录
高级元数据 5 项
接着看
这台机器在站内的其他入口这一页怎么算的
三件我们不做的事-
只列有记录的模型。这台机器上某个模型一条记录都没有时，表里没有这一行，
我们只会在表下把它点名——不会渲染一个
0， 也不会把它写进「跑不动」那一类。那是两件事：前者是我们还没收录，后者是有证据表明显存不够。 - 「跑不动」也是一条记录。下面那张完整表里，标着「跑不动」的行照常渲染， 并带着自己的证据级别——把它们藏起来等于只给你看赢的那些，那不叫数据。
- 不给"该跑哪个模型"这类排序。表按记录条数降序（那是"我们有多少观测"）； 「中位数最高」那种句子是可核对的陈述。同一台机器上不同模型之间的量化档、框架、 上下文长度都不一样，所以"哪个更好"这种问题我们不答——记录里没有能力字段，答了就是编。