NVIDIA RTX 3090 · 24G在我们记录里的实测
关于这台机器,我们收录了 7 条记录。 这一页把它们摊开:中位吞吐与区间、每一行的样本量与证据级别,以及我们没有收录的组合 ——缺的那些我们不会替你补一个数字。
在当前记录里,NVIDIA RTX 3090 · 24G 的解码吞吐中位数是 73.2 tok/s (48.2 – 109.8,n=74,共 7 条记录), 最高证据级别是 L0 自报。
在这些模型里,Llama-3.1-8B-Instruct · 未归一化 的中位数最高(中位 109.8 tok/s, n=13,证据 L0)。 这是表里数字的高低,不是我们在替你选——样本量、量化档、框架都不同,能核对的都在表里。
模型 × 这台机器
5 个模型 · 7 条记录同一台机器上不同模型之间的数字也不是同一件事:量化档、框架、上下文长度都会影响结果。 这张表只回答「我们在这个组合上测到过什么」。
行按记录条数降序排列——条数是「我们有多少条观测」,不是「谁更强」:不同模型之间的量化档、框架、上下文长度都不一样。每一行的 n= 是那一格参与统计的样本量之和;没有有效样本量的格子不渲染数字,渲染 ———— 是"我们不知道",不是 0。
| 模型 | decode 中位 | 区间 | 记录数 | 证据 |
|---|---|---|---|---|
| phi-4 · 未归一化 | 60.7tok/sn=26 | 48.2 – 73.2tok/s | 2条占 29% | L0 自报 |
| Qwen2.5-7B-Instruct · 未归一化 | 85.8tok/sn=17 | 78.0 – 93.5tok/s | 2条占 29% | L0 自报 |
| DeepSeek-R1-Distill-Qwen-14B · 未归一化 | 66.3tok/sn=7 | 66.3 – 66.3tok/s | 1条占 14% | L0 自报 |
| Llama-3.1-8B-Instruct · 未归一化 | 109.8tok/sn=13 | 109.8 – 109.8tok/s | 1条占 14% | L0 自报 |
| Qwen3-14B14B | 67.7tok/sn=11 | 67.7 – 67.7tok/s | 1条占 14% | L0 自报 |
表里没有 Mistral-Nemo-Instruct-2407 · 未归一化、Qwen3-32B:我们还没收录这个组合。 「没有数据」不等于「跑不动」——前者是我们还没收录,后者是有证据表明显存不够。 把前者读成后者,就是拿记录的沉默冒充站方的结论。这不是模型的问题,是我们的缺口。
全部实测记录
含跑不通的phi-4 · 未归一化Q6_K llama.cpp b5980Reddit最后入库 1 天前n=11 48.2 1625 5592 — L0 自报 待复现 稳定
「稳定」已被独立来源复现过,当前没有已知分歧。
复现链从这条记录出发,每格是一次独立来源的复现。空链条表示还没有复现记录,不是我们没有记。
要和另一条记录直接比较,这几项得一样:模型 · 量化 · 框架(含版本) · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项,而不是你想比的东西。
完整配置 · 来源 · 复现链 16 项
b5566526408d754e7a85d2b2d70323986d99e4dfe1013797dad37783f9f3115d快照长度 95 字符(按码点计)我们存下了抓取那一刻的原文副本与内容哈希,但不转载原文:本站只取事实(数字),不取表达。来源被删除或改版之后,我们可以拿哈希说明「当时读到的就是这段文本」,但不能说明它现在还在。
目前没有断言引用这条记录
高级元数据 5 项
phi-4 · 未归一化Q4_K_M ExLlamaV2 0.2.5B站最后入库 1 天前n=15 73.2 2525 4280 — L0 自报 待复现 稳定
「稳定」已被独立来源复现过,当前没有已知分歧。
复现链从这条记录出发,每格是一次独立来源的复现。空链条表示还没有复现记录,不是我们没有记。
要和另一条记录直接比较,这几项得一样:模型 · 量化 · 框架(含版本) · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项,而不是你想比的东西。
完整配置 · 来源 · 复现链 16 项
25d746232ae30b0d8a4809ee6d3af513f2ca9a2bd4b295bf1b632cd86578b4ef快照长度 99 字符(按码点计)我们存下了抓取那一刻的原文副本与内容哈希,但不转载原文:本站只取事实(数字),不取表达。来源被删除或改版之后,我们可以拿哈希说明「当时读到的就是这段文本」,但不能说明它现在还在。
目前没有断言引用这条记录
高级元数据 5 项
DeepSeek-R1-Distill-Qwen-14B · 未归一化Q4_K_M llama.cpp b5980Arao 自产最后入库 1 天前n=7 66.3 2234 4280 — L0 自报 待复现 待判定
「待判定」只有一次或单一来源的读数,还没等到独立复现。数字照常可用,但按 L0/L1 对待。
复现链从这条记录出发,每格是一次独立来源的复现。空链条表示还没有复现记录,不是我们没有记。
要和另一条记录直接比较,这几项得一样:模型 · 量化 · 框架(含版本) · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项,而不是你想比的东西。
完整配置 · 来源 · 复现链 16 项
a3d89c665805202893b173d0408ec2c11fea4295dd22952ca19235fea3526416快照长度 115 字符(按码点计)我们存下了抓取那一刻的原文副本与内容哈希,但不转载原文:本站只取事实(数字),不取表达。来源被删除或改版之后,我们可以拿哈希说明「当时读到的就是这段文本」,但不能说明它现在还在。
目前没有断言引用这条记录
高级元数据 5 项
Qwen3-14BQ4_K_M mlx-lm 0.18.2V2EX最后入库 1 天前n=11 67.7 2291 4280 — L0 自报 待复现 稳定
「稳定」已被独立来源复现过,当前没有已知分歧。
复现链从这条记录出发,每格是一次独立来源的复现。空链条表示还没有复现记录,不是我们没有记。
要和另一条记录直接比较,这几项得一样:模型 · 量化 · 框架(含版本) · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项,而不是你想比的东西。
完整配置 · 来源 · 复现链 16 项
1dcaba3287fa3daadc52ea507541cff52b70f77bc7ae57131a46c6fa65373e97快照长度 89 字符(按码点计)我们存下了抓取那一刻的原文副本与内容哈希,但不转载原文:本站只取事实(数字),不取表达。来源被删除或改版之后,我们可以拿哈希说明「当时读到的就是这段文本」,但不能说明它现在还在。
目前没有断言引用这条记录
高级元数据 5 项
Llama-3.1-8B-Instruct · 未归一化Q5_K_M ExLlamaV2 0.2.5B站最后入库 1 天前n=13 109.8 3788 3113 — L0 自报 待复现 稳定
「稳定」已被独立来源复现过,当前没有已知分歧。
复现链从这条记录出发,每格是一次独立来源的复现。空链条表示还没有复现记录,不是我们没有记。
要和另一条记录直接比较,这几项得一样:模型 · 量化 · 框架(含版本) · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项,而不是你想比的东西。
完整配置 · 来源 · 复现链 16 项
d187fb33af1928418561cf2dec25abedfe43d7758bb2f8ec95a6f327ca5457b6快照长度 112 字符(按码点计)我们存下了抓取那一刻的原文副本与内容哈希,但不转载原文:本站只取事实(数字),不取表达。来源被删除或改版之后,我们可以拿哈希说明「当时读到的就是这段文本」,但不能说明它现在还在。
目前没有断言引用这条记录
高级元数据 5 项
Qwen2.5-7B-Instruct · 未归一化Q8_0 llama.cpp b6120Arao 自产最后入库 1 天前n=14 78.0 2653 3879 — L0 自报 待复现 稳定
「稳定」已被独立来源复现过,当前没有已知分歧。
复现链从这条记录出发,每格是一次独立来源的复现。空链条表示还没有复现记录,不是我们没有记。
要和另一条记录直接比较,这几项得一样:模型 · 量化 · 框架(含版本) · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项,而不是你想比的东西。
完整配置 · 来源 · 复现链 16 项
cc93763512eabc7df3236625adb6b7403582e6a51284cf9dba8fa104d9d4e759快照长度 102 字符(按码点计)我们存下了抓取那一刻的原文副本与内容哈希,但不转载原文:本站只取事实(数字),不取表达。来源被删除或改版之后,我们可以拿哈希说明「当时读到的就是这段文本」,但不能说明它现在还在。
目前没有断言引用这条记录
高级元数据 5 项
Qwen2.5-7B-Instruct · 未归一化Q6_K ollama 0.5.1V2EX最后入库 1 天前n=3 93.5 3125 3186 — L0 自报 待复现 待判定
「待判定」只有一次或单一来源的读数,还没等到独立复现。数字照常可用,但按 L0/L1 对待。
复现链从这条记录出发,每格是一次独立来源的复现。空链条表示还没有复现记录,不是我们没有记。
要和另一条记录直接比较,这几项得一样:模型 · 量化 · 框架(含版本) · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项,而不是你想比的东西。
完整配置 · 来源 · 复现链 16 项
2f8e3ff560e223b46aae7d3ca24049a7326e5d563f9cb11e3c06892b90ca92b7快照长度 99 字符(按码点计)我们存下了抓取那一刻的原文副本与内容哈希,但不转载原文:本站只取事实(数字),不取表达。来源被删除或改版之后,我们可以拿哈希说明「当时读到的就是这段文本」,但不能说明它现在还在。
目前没有断言引用这条记录
高级元数据 5 项
接着看
这台机器在站内的其他入口这一页怎么算的
三件我们不做的事-
只列有记录的模型。这台机器上某个模型一条记录都没有时,表里没有这一行,
我们只会在表下把它点名——不会渲染一个
0, 也不会把它写进「跑不动」那一类。那是两件事:前者是我们还没收录,后者是有证据表明显存不够。 - 「跑不动」也是一条记录。下面那张完整表里,标着「跑不动」的行照常渲染, 并带着自己的证据级别——把它们藏起来等于只给你看赢的那些,那不叫数据。
- 不给"该跑哪个模型"这类排序。表按记录条数降序(那是"我们有多少观测"); 「中位数最高」那种句子是可核对的陈述。同一台机器上不同模型之间的量化档、框架、 上下文长度都不一样,所以"哪个更好"这种问题我们不答——记录里没有能力字段,答了就是编。