跳到主内容
跑得动
araoai.com
首页
能跑什么
怎么配
数据
72
API
搜索硬件、模型、框架或量化档
⌘K
搜索
订阅
投稿
搜什么
全部
硬件
模型
框架
量化
常用
M3 Max × Qwen3-32B
RX 7900 GRE · 未归一化 × Llama-3.1-8B-Instruct · 未归一化
Qwen2.5-7B-Instruct · 未归一化 × mlx-lm
Q4_K_M
72 条 Run · 7 个模型 · 10 个硬件型号
你的机器,能跑什么?
我的机器能跑什么 →
我要跑这个,怎么配 →
我要投稿 →
数据点
72
覆盖硬件型号
10
覆盖模型
7
覆盖框架
5
L1 已复现
7
L2 跨框架
6
来源平台
7
数据许可
CC BY 4.0
共
72
条 · 覆盖 10 个硬件型号 · 最后入库
1 天前
按维度找数据
结果在「数据」页
硬件
全部
Apple M3 Max · 128G 统一内存(11)
RX 7900 GRE · 未归一化(10)
M2 Ultra · 未归一化(8)
NVIDIA RTX 3090 · 24G(7)
RTX 3060 · 未归一化(7)
RTX 4080 SUPER · 未归一化(7)
Arc A770 · 未归一化(6)
NVIDIA RTX 4090 · 24G(6)
RX 7800 XT · 未归一化(6)
AMD Radeon RX 7900 XTX · 24G(4)
模型
全部
Qwen2.5-7B-Instruct · 未归一化(16)
Llama-3.1-8B-Instruct · 未归一化(12)
phi-4 · 未归一化(11)
Qwen3-14B(11)
Mistral-Nemo-Instruct-2407 · 未归一化(10)
DeepSeek-R1-Distill-Qwen-14B · 未归一化(9)
Qwen3-32B(3)
框架
全部
mlx-lm(21)
llama.cpp(18)
ExLlamaV2(13)
ollama(10)
vLLM(10)
量化
全部
Q4_K_M(22)
AWQ 4-bit(18)
Q5_K_M(14)
Q8_0(9)
Q6_K(6)
FP16(3)
来源
全部
HuggingFace(11)
Reddit(11)
Arao 自产(10)
B站(10)
GitHub(10)
V2EX(10)
知乎(10)
排序
最新入库
decode 从高到低
应用筛选
重置
证据
全部
L1 及以上
L2 跨框架
最新入库
最新 5 条
模型 / 量化
decode
tok/s
prefill
tok/s
TTFT
ms
显存峰值
GB
证据
复现链
状态
Qwen3-14B
Q5_K_M
NVIDIA RTX 4090 · 24G
mlx-lm 0.18.2
Reddit
最后入库
1 天前
n=4
62.5
2115
4863
—
L1 已复现 1 次
待判定
Llama-3.1-8B-Instruct · 未归一化
Q8_0
Apple M3 Max · 128G 统一内存
vLLM 0.6.2
HuggingFace
最后入库
1 天前
n=5
32.7
1142
4322
—
L0 自报
待复现
待判定
DeepSeek-R1-Distill-Qwen-14B · 未归一化
Q4_K_M
RTX 3060 · 未归一化
ExLlamaV2 0.2.5
V2EX
最后入库
1 天前
n=6
28.2
971
4280
—
L0 自报
待复现
待判定
Qwen2.5-7B-Instruct · 未归一化
AWQ 4-bit
Apple M3 Max · 128G 统一内存
vLLM 0.6.2
知乎
最后入库
1 天前
n=7
70.5
2466
2421
—
L0 自报
待复现
待判定
Mistral-Nemo-Instruct-2407 · 未归一化
Q5_K_M
NVIDIA RTX 4090 · 24G
llama.cpp b6120
B站
最后入库
1 天前
n=8
74.4
2530
4280
—
L2 跨框架已验证
稳定
数据 CC BY 4.0 · 可被 AI 引用
复现 ≠ 点赞
来源:GitHub · Reddit · HuggingFace · Arao 自产
方法与边界
投稿指南
API
RSS