Arao AI

你的机器，能跑什么 AI ?

基于真实运行数据，查询你硬件能跑的模型、框架、量化组合。 不只是速度，更告诉你：这条数据有多可靠，能不能直接比较，证据从哪里来。

热门搜索

11

运行记录

真实运行数据

7

硬件型号

主流显卡 / 处理器

6

模型

大模型 / 特色模型

1

框架

llama.cpp / vLLM 等

L0 / L1 / L2

证据等级

查看数据说明 →

最近运行记录

基于真实采集的数据，展示最新的模型运行结果。

查看全部 →

Qwen3.8-27B

L0 自报

Q6_K · llama.cpp 10453

  • AMD Radeon RX 7900 GRE + NVIDIA GTX 1080Ti
  • 27GB
  • Ubuntu

12.53tok/s

Decode

116.21tok/s

Prefill

23GB

VRAM

  • AMD
  • llama.cpp
  • 个人自报
来源: Reddit2026-09-20

Qwen3.8-27B

L0 自报

Q4_K_M · llama.cpp 10453

  • AMD Radeon RX 7900 GRE + NVIDIA GTX 1080Ti
  • 27GB
  • Ubuntu

11.13tok/s

Decode

71.46tok/s

Prefill

17.2GB

VRAM

  • AMD
  • llama.cpp
  • 个人自报
来源: Reddit2026-09-20

DeepSeek-V4-Flash-Vision-Exp

L0 自报

UD-Q8_K_XL · llama.cpp moecachev1.6-rc0

  • 2x NVIDIA RTX 5090
  • 64GB
  • Ubuntu 24.04.4 LTS
  • CUDA 13.3

32.08tok/s

Decode

671.43tok/s

Prefill

60.7GB

VRAM

  • 2x
  • llama.cpp
  • 个人自报
来源: GitHub2026-09-20

Qwen3.8-27B

L0 自报

UD-Q8_K_XL · llama.cpp b10236

  • 2x NVIDIA RTX 3090
  • 48GB
  • Ubuntu 26.04 LTS
  • CUDA 13.3

43.65tok/s

Decode

1,600.18tok/s

Prefill

44.12GB

VRAM

  • 2x
  • llama.cpp
  • 个人自报
来源: GitHub2026-09-20

为什么相信 Arao AI?

我们用结构化的证据体系，告诉你每条数据的可信度。

了解更多证据体系 →
L0 自报

来自社区或个人发布，未经过独立验证。

L1 已复现

社区复现，小规模独立验证，含复现次数。

L2 跨框架验证

同硬件 + 同模型，同量化下的多框架实测数据。