跑得动araoai.com
投稿
搜什么 常用 M3 Max × Qwen3-32BRX 7900 GRE · 未归一化 × Llama-3.1-8B-Instruct · 未归一化Qwen2.5-7B-Instruct · 未归一化 × mlx-lmQ4_K_M 72 条 Run · 7 个模型 · 10 个硬件型号
全量数据

每一条实测记录,都能追到来源

这是库里的全部实测记录,不是精选。筛选条件写在网址里,所以你复制出去的链接就是你看到的这一屏。 每条记录都标着证据级别:L0 是自报,L1 被第三方复现过,L2 还跨了框架。 想把几个模型或几张卡摆在一张表上比,用横向对比

重置

实测记录

筛选命中 9 条 · 第 1/1 页 · 本页 9 条 · (库中共 72 条)

模型 / 量化 decodetok/s prefilltok/s TTFTms 显存峰值GB 证据 复现链 状态
DeepSeek-R1-Distill-Qwen-14B · 未归一化Q4_K_M RTX 3060 · 未归一化ExLlamaV2 0.2.5V2EX最后入库 1 天前n=6 28.2 971 4280 L0 自报 待复现 待判定
模型与硬件
模型DeepSeek-R1-Distill-Qwen-14B · 未归一化仓库原名 deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
量化Q4_K_M
硬件RTX 3060 · 未归一化
显存总量
框架ExLlamaV2 0.2.5
速度与显存
decode tok/s28.2
prefill tok/s971
TTFT 冷启 ms4280
TTFT 热启 ms
显存峰值 GB11.2
证据与判定
证据级别L0 自报
样本量6
状态待判定

「待判定」只有一次或单一来源的读数,还没等到独立复现。数字照常可用,但按 L0/L1 对待。

复现链从这条记录出发,每格是一次独立来源的复现。空链条表示还没有复现记录,不是我们没有记。

要和另一条记录直接比较,这几项得一样:模型 · 量化 · 框架(含版本) · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项,而不是你想比的东西。

完整配置 · 来源 · 复现链 16 项
完整配置
上下文长度
KV cache
flash attention
batch
GPU 层数-1
投机解码
并发数
上下文扩展
复现与测量
复现次数0
测量方第三方实测
复现链待复现
原始来源
平台V2EX
抓取时间1 天前
原文快照我们存下的原文副本(本站不转载正文) · 抓取于 1 天前 · 来源 https://www.v2ex.com/t/araoai-demo-3内容哈希 c0cd4834d3c0451afb4df85b4f91035a14be872d6d2d2ced80221733ccb79530快照长度 115 字符(按码点计)

我们存下了抓取那一刻的原文副本与内容哈希,但不转载原文:本站只取事实(数字),不取表达。来源被删除或改版之后,我们可以拿哈希说明「当时读到的就是这段文本」,但不能说明它现在还在。

相关断言

目前没有断言引用这条记录

高级元数据 5 项
配置指纹
配置签名d290bbf297d934829b28a3863e97a89f4031890ad54ff9d8fd8eb729e0270cd8
实验指标
KLD
MTP 接受率
整机功耗 W
归一化
归一化未命中hardware: rtx_3060;model: deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
DeepSeek-R1-Distill-Qwen-14B · 未归一化Q4_K_M Arc A770 · 未归一化llama.cpp b5980HuggingFace最后入库 1 天前n=3 39.7 1336 4280 L0 自报 待复现 待判定
模型与硬件
模型DeepSeek-R1-Distill-Qwen-14B · 未归一化仓库原名 deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
量化Q4_K_M
硬件Arc A770 · 未归一化
显存总量
框架llama.cpp b5980
速度与显存
decode tok/s39.7
prefill tok/s1336
TTFT 冷启 ms4280
TTFT 热启 ms
显存峰值 GB11.2
证据与判定
证据级别L0 自报
样本量3
状态待判定

「待判定」只有一次或单一来源的读数,还没等到独立复现。数字照常可用,但按 L0/L1 对待。

复现链从这条记录出发,每格是一次独立来源的复现。空链条表示还没有复现记录,不是我们没有记。

要和另一条记录直接比较,这几项得一样:模型 · 量化 · 框架(含版本) · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项,而不是你想比的东西。

完整配置 · 来源 · 复现链 16 项
完整配置
上下文长度
KV cache
flash attention
batch
GPU 层数-1
投机解码
并发数
上下文扩展
复现与测量
复现次数0
测量方第三方实测
复现链待复现
原始来源
平台HuggingFace
抓取时间1 天前
原文快照我们存下的原文副本(本站不转载正文) · 抓取于 1 天前 · 来源 https://huggingface.co/araoai-demo/deepseek-r1-distill-qwen-14b-bench/discussions/30内容哈希 f915c9ecfe24007d219fa7a4a25eb5bef841b5c308140d694635a306c468bb7e快照长度 122 字符(按码点计)

我们存下了抓取那一刻的原文副本与内容哈希,但不转载原文:本站只取事实(数字),不取表达。来源被删除或改版之后,我们可以拿哈希说明「当时读到的就是这段文本」,但不能说明它现在还在。

相关断言

目前没有断言引用这条记录

高级元数据 5 项
配置指纹
配置签名02a91232c61d97aa0319230c34e2386c67066ab8f274e18304f1812f942439a9
实验指标
KLD
MTP 接受率
整机功耗 W
归一化
归一化未命中hardware: arc_a770;model: deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
DeepSeek-R1-Distill-Qwen-14B · 未归一化Q4_K_M NVIDIA RTX 3090 · 24Gllama.cpp b5980Arao 自产最后入库 1 天前n=7 66.3 2234 4280 L0 自报 待复现 待判定
模型与硬件
模型DeepSeek-R1-Distill-Qwen-14B · 未归一化仓库原名 deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
量化Q4_K_M
硬件NVIDIA RTX 3090 · 24G
显存总量
框架llama.cpp b5980
速度与显存
decode tok/s66.3
prefill tok/s2234
TTFT 冷启 ms4280
TTFT 热启 ms
显存峰值 GB11.2
证据与判定
证据级别L0 自报
样本量7
状态待判定

「待判定」只有一次或单一来源的读数,还没等到独立复现。数字照常可用,但按 L0/L1 对待。

复现链从这条记录出发,每格是一次独立来源的复现。空链条表示还没有复现记录,不是我们没有记。

要和另一条记录直接比较,这几项得一样:模型 · 量化 · 框架(含版本) · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项,而不是你想比的东西。

完整配置 · 来源 · 复现链 16 项
完整配置
上下文长度
KV cache
flash attention
batch
GPU 层数-1
投机解码
并发数
上下文扩展
复现与测量
复现次数0
测量方Arao 实测
复现链待复现
原始来源
平台Arao 自产
抓取时间1 天前
原文快照我们存下的原文副本(本站不转载正文) · 抓取于 1 天前 · 来源 https://araoai.com/demo/rig-run-34内容哈希 a3d89c665805202893b173d0408ec2c11fea4295dd22952ca19235fea3526416快照长度 115 字符(按码点计)

我们存下了抓取那一刻的原文副本与内容哈希,但不转载原文:本站只取事实(数字),不取表达。来源被删除或改版之后,我们可以拿哈希说明「当时读到的就是这段文本」,但不能说明它现在还在。

相关断言

目前没有断言引用这条记录

高级元数据 5 项
配置指纹
配置签名055561aadc8de68a701fed6f4155780592b48560972524c6da6f21db4df8d961
实验指标
KLD
MTP 接受率
整机功耗 W
归一化
归一化未命中model: deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
DeepSeek-R1-Distill-Qwen-14B · 未归一化AWQ 4-bit RX 7800 XT · 未归一化mlx-lm 0.18.2HuggingFace最后入库 1 天前n=10 48.1 1629 4061 L1 已复现 1 次 稳定
模型与硬件
模型DeepSeek-R1-Distill-Qwen-14B · 未归一化仓库原名 deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
量化AWQ 4-bit
硬件RX 7800 XT · 未归一化
显存总量
框架mlx-lm 0.18.2
速度与显存
decode tok/s48.1
prefill tok/s1629
TTFT 冷启 ms4061
TTFT 热启 ms
显存峰值 GB10.6
证据与判定
证据级别L1 已复现 1 次
样本量10
状态稳定

「稳定」已被独立来源复现过,当前没有已知分歧。

复现链从这条记录出发,每格是一次独立来源的复现。空链条表示还没有复现记录,不是我们没有记。

要和另一条记录直接比较,这几项得一样:模型 · 量化 · 框架(含版本) · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项,而不是你想比的东西。

完整配置 · 来源 · 复现链 16 项
完整配置
上下文长度
KV cache
flash attention
batch
GPU 层数-1
投机解码
并发数
上下文扩展
复现与测量
复现次数1
测量方第三方实测
复现链
原始来源
平台HuggingFace
抓取时间1 天前
原文快照我们存下的原文副本(本站不转载正文) · 抓取于 1 天前 · 来源 https://huggingface.co/araoai-demo/deepseek-r1-distill-qwen-14b-bench/discussions/37内容哈希 d0ea8095cd40b275971340bc9c2722f59b03da5361e97e7365bd374327e60e60快照长度 121 字符(按码点计)

我们存下了抓取那一刻的原文副本与内容哈希,但不转载原文:本站只取事实(数字),不取表达。来源被删除或改版之后,我们可以拿哈希说明「当时读到的就是这段文本」,但不能说明它现在还在。

相关断言

目前没有断言引用这条记录

高级元数据 5 项
配置指纹
配置签名bf472865f7710e703a9cedbb3377f283f448d1cc3307ba046de84a3c8af04206
实验指标
KLD
MTP 接受率
整机功耗 W
归一化
归一化未命中hardware: rx_7800_xt;model: deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
DeepSeek-R1-Distill-Qwen-14B · 未归一化FP16 Apple M3 Max · 128G 统一内存mlx-lm 0.18.2知乎最后入库 1 天前n=12 8.7 294 12447 L0 自报 待复现 稳定
模型与硬件
模型DeepSeek-R1-Distill-Qwen-14B · 未归一化仓库原名 deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
量化FP16
硬件Apple M3 Max · 128G 统一内存
显存总量
框架mlx-lm 0.18.2
速度与显存
decode tok/s8.7
prefill tok/s294
TTFT 冷启 ms12447
TTFT 热启 ms
显存峰值 GB33.5
证据与判定
证据级别L0 自报
样本量12
状态稳定

「稳定」已被独立来源复现过,当前没有已知分歧。

复现链从这条记录出发,每格是一次独立来源的复现。空链条表示还没有复现记录,不是我们没有记。

要和另一条记录直接比较,这几项得一样:模型 · 量化 · 框架(含版本) · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项,而不是你想比的东西。

完整配置 · 来源 · 复现链 16 项
完整配置
上下文长度
KV cache
flash attention
batch
GPU 层数-1
投机解码
并发数
上下文扩展
复现与测量
复现次数0
测量方第三方实测
复现链待复现
原始来源
平台知乎
抓取时间1 天前
原文快照我们存下的原文副本(本站不转载正文) · 抓取于 1 天前 · 来源 https://zhuanlan.zhihu.com/p/araoai-demo-39内容哈希 3370b8e094c5fdd2d75fd4e69b8f8f22d9ed9b67f25bb36c5b3b250e02f19abe快照长度 112 字符(按码点计)

我们存下了抓取那一刻的原文副本与内容哈希,但不转载原文:本站只取事实(数字),不取表达。来源被删除或改版之后,我们可以拿哈希说明「当时读到的就是这段文本」,但不能说明它现在还在。

相关断言

目前没有断言引用这条记录

高级元数据 5 项
配置指纹
配置签名a2f9fefe6f6f580d967fff24c07c293b0a22799c2ecddaeded693a2ea850159a
实验指标
KLD
MTP 接受率
整机功耗 W
归一化
归一化未命中model: deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
DeepSeek-R1-Distill-Qwen-14B · 未归一化AWQ 4-bit RX 7900 GRE · 未归一化ollama 0.5.1B站最后入库 1 天前n=5 42.2 1410 4061 L0 自报 待复现 待判定
模型与硬件
模型DeepSeek-R1-Distill-Qwen-14B · 未归一化仓库原名 deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
量化AWQ 4-bit
硬件RX 7900 GRE · 未归一化
显存总量
框架ollama 0.5.1
速度与显存
decode tok/s42.2
prefill tok/s1410
TTFT 冷启 ms4061
TTFT 热启 ms
显存峰值 GB10.6
证据与判定
证据级别L0 自报
样本量5
状态待判定

「待判定」只有一次或单一来源的读数,还没等到独立复现。数字照常可用,但按 L0/L1 对待。

复现链从这条记录出发,每格是一次独立来源的复现。空链条表示还没有复现记录,不是我们没有记。

要和另一条记录直接比较,这几项得一样:模型 · 量化 · 框架(含版本) · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项,而不是你想比的东西。

完整配置 · 来源 · 复现链 16 项
完整配置
上下文长度
KV cache
flash attention
batch
GPU 层数-1
投机解码
并发数
上下文扩展
复现与测量
复现次数0
测量方第三方实测
复现链待复现
原始来源
平台B站
抓取时间1 天前
原文快照我们存下的原文副本(本站不转载正文) · 抓取于 1 天前 · 来源 https://www.bilibili.com/video/araoai-demo-47内容哈希 bf966187ee370e84f59f94b2835d3d135d11d2e9b91333740a39d4da026bdf46快照长度 121 字符(按码点计)

我们存下了抓取那一刻的原文副本与内容哈希,但不转载原文:本站只取事实(数字),不取表达。来源被删除或改版之后,我们可以拿哈希说明「当时读到的就是这段文本」,但不能说明它现在还在。

相关断言

目前没有断言引用这条记录

高级元数据 5 项
配置指纹
配置签名90f5ca07fef974cba06a44a8aafb08762cd01056de1dbd4d0683c35e074b412e
实验指标
KLD
MTP 接受率
整机功耗 W
归一化
归一化未命中hardware: rx_7900_gre;model: deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
DeepSeek-R1-Distill-Qwen-14B · 未归一化Q6_K Arc A770 · 未归一化vLLM 0.6.2Arao 自产最后入库 1 天前n=13 33.7 1177 5592 L1 已复现 1 次 稳定
模型与硬件
模型DeepSeek-R1-Distill-Qwen-14B · 未归一化仓库原名 deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
量化Q6_K
硬件Arc A770 · 未归一化
显存总量
框架vLLM 0.6.2
速度与显存
decode tok/s33.7
prefill tok/s1177
TTFT 冷启 ms5592
TTFT 热启 ms
显存峰值 GB14.8
证据与判定
证据级别L1 已复现 1 次
样本量13
状态稳定

「稳定」已被独立来源复现过,当前没有已知分歧。

复现链从这条记录出发,每格是一次独立来源的复现。空链条表示还没有复现记录,不是我们没有记。

要和另一条记录直接比较,这几项得一样:模型 · 量化 · 框架(含版本) · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项,而不是你想比的东西。

完整配置 · 来源 · 复现链 16 项
完整配置
上下文长度
KV cache
flash attention
batch
GPU 层数-1
投机解码
并发数
上下文扩展
复现与测量
复现次数1
测量方Arao 实测
复现链
原始来源
平台Arao 自产
抓取时间1 天前
原文快照我们存下的原文副本(本站不转载正文) · 抓取于 1 天前 · 来源 https://araoai.com/demo/rig-run-55内容哈希 31afce6c9ea4fce656f8770ddf74a1b4b71611ad5933017727323b1cb6f81478快照长度 108 字符(按码点计)

我们存下了抓取那一刻的原文副本与内容哈希,但不转载原文:本站只取事实(数字),不取表达。来源被删除或改版之后,我们可以拿哈希说明「当时读到的就是这段文本」,但不能说明它现在还在。

相关断言

目前没有断言引用这条记录

高级元数据 5 项
配置指纹
配置签名91ec73d1652cd69df76b3a9b0dff064187616da2ca562d88015dab41fd16e066
实验指标
KLD
MTP 接受率
整机功耗 W
归一化
归一化未命中hardware: arc_a770;model: deepseek-ai/DeepSeek-R1-Distill-Qwen-14B;quant: Q6_K
DeepSeek-R1-Distill-Qwen-14B · 未归一化Q8_0 Apple M3 Max · 128G 统一内存llama.cpp b5980Reddit最后入库 1 天前n=15 16.0 539 6978 L0 自报 待复现 稳定
模型与硬件
模型DeepSeek-R1-Distill-Qwen-14B · 未归一化仓库原名 deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
量化Q8_0
硬件Apple M3 Max · 128G 统一内存
显存总量
框架llama.cpp b5980
速度与显存
decode tok/s16.0
prefill tok/s539
TTFT 冷启 ms6978
TTFT 热启 ms
显存峰值 GB18.6
证据与判定
证据级别L0 自报
样本量15
状态稳定

「稳定」已被独立来源复现过,当前没有已知分歧。

复现链从这条记录出发,每格是一次独立来源的复现。空链条表示还没有复现记录,不是我们没有记。

要和另一条记录直接比较,这几项得一样:模型 · 量化 · 框架(含版本) · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项,而不是你想比的东西。

完整配置 · 来源 · 复现链 16 项
完整配置
上下文长度
KV cache
flash attention
batch
GPU 层数-1
投机解码
并发数
上下文扩展
复现与测量
复现次数0
测量方第三方实测
复现链待复现
原始来源
平台Reddit
抓取时间1 天前
原文快照我们存下的原文副本(本站不转载正文) · 抓取于 1 天前 · 来源 https://www.reddit.com/r/araoai_demo/comments/demo57_deepseek-r1-distill-qwen-14b/内容哈希 50c5a4dc67ccf38b8cd57b568b0c89bf8d374dc8b9c0af05d969470f169d51c5快照长度 119 字符(按码点计)

我们存下了抓取那一刻的原文副本与内容哈希,但不转载原文:本站只取事实(数字),不取表达。来源被删除或改版之后,我们可以拿哈希说明「当时读到的就是这段文本」,但不能说明它现在还在。

相关断言

目前没有断言引用这条记录

高级元数据 5 项
配置指纹
配置签名79caf35df754093fece2961398c480b171488acfc913aef2904d7c3b04570a71
实验指标
KLD
MTP 接受率
整机功耗 W
归一化
归一化未命中model: deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
DeepSeek-R1-Distill-Qwen-14B · 未归一化Q4_K_M RTX 4080 SUPER · 未归一化vLLM 0.6.2知乎最后入库 1 天前n=3 60.8 2127 4280 L0 自报 待复现 待判定
模型与硬件
模型DeepSeek-R1-Distill-Qwen-14B · 未归一化仓库原名 deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
量化Q4_K_M
硬件RTX 4080 SUPER · 未归一化
显存总量
框架vLLM 0.6.2
速度与显存
decode tok/s60.8
prefill tok/s2127
TTFT 冷启 ms4280
TTFT 热启 ms
显存峰值 GB11.2
证据与判定
证据级别L0 自报
样本量3
状态待判定

「待判定」只有一次或单一来源的读数,还没等到独立复现。数字照常可用,但按 L0/L1 对待。

复现链从这条记录出发,每格是一次独立来源的复现。空链条表示还没有复现记录,不是我们没有记。

要和另一条记录直接比较,这几项得一样:模型 · 量化 · 框架(含版本) · 上下文长度 · 硬件 · batch · 并发数。少一项就只能当数量级参考——差额可能来自那一项,而不是你想比的东西。

完整配置 · 来源 · 复现链 16 项
完整配置
上下文长度
KV cache
flash attention
batch
GPU 层数-1
投机解码
并发数
上下文扩展
复现与测量
复现次数0
测量方第三方实测
复现链待复现
原始来源
平台知乎
抓取时间1 天前
原文快照我们存下的原文副本(本站不转载正文) · 抓取于 1 天前 · 来源 https://zhuanlan.zhihu.com/p/araoai-demo-60内容哈希 8f720e9c0a200827b6977addf2d108ba57667275ff87b072b4b4d63ccfc8f520快照长度 117 字符(按码点计)

我们存下了抓取那一刻的原文副本与内容哈希,但不转载原文:本站只取事实(数字),不取表达。来源被删除或改版之后,我们可以拿哈希说明「当时读到的就是这段文本」,但不能说明它现在还在。

相关断言

目前没有断言引用这条记录

高级元数据 5 项
配置指纹
配置签名4fbe1f3471834ada2ee798fd33a1ee7268ce41da7bd4ca531063baa3959899fd
实验指标
KLD
MTP 接受率
整机功耗 W
归一化
归一化未命中hardware: rtx_4080_super;model: deepseek-ai/DeepSeek-R1-Distill-Qwen-14B
导出 CSV JSON 导出当前筛选的全部命中结果(上限 500 条)

按模型看 · 按硬件看

每个取值一页

点一个取值进去,就是它自己的页面:中位吞吐、区间、样本量与证据级别, 以及我们没有收录的组合——缺的那些写清楚是缺,不补数字。下面只列有记录的取值; 没有记录的不在这里,因为我们没有东西可说。

怎么读这张表

  • 证据级别不是我们自己打的标签。它由记录之间的相互验证推导:同一三元组被第三方用不同框架 跑出接近的数字,才升到 L1;跨框架也对得上,才是 L2。Arao 自产的记录即使带签名,在别人复现之前 仍然是 L0。
  • 没有样本量的数字不显示。一行就是一个样本集,四个指标同源;样本量缺失时整行数字渲染 ,因为一个没有 n 的统计值不该被当成结论。
  • 「跑不动」和「没有数据」是两回事。前者是有证据表明显存不够,后者是我们还没收录这个组合 ——把后者读成前者,就是拿机器的沉默冒充人的结论。
  • 导出的上限是服务端强制的。当前视图最多导出 500 行;程序化取全量请走 API
数据 CC BY 4.0 · 可被 AI 引用 复现 ≠ 点赞 来源:GitHub · Reddit · HuggingFace · Arao 自产 方法与边界 投稿指南 API RSS