Arao AI本地 AI 部署实测数据库

你的机器,能跑什么 AI?

本地部署实测数据库:Decode / Prefill / 显存占用,每条数据标注来源与证据等级。

热门:

从哪里开始

收录状况

11
条已上架实测记录
4
款硬件
3
个模型
3
个推理框架

数据说明

证据等级

每条记录都标注证据等级,数字背后有没有第二个人复现过,一眼能看出来:

  • L0 自报来自发布方或作者的公开数据,尚未被独立复现。
  • L1 已复现有人按同样的配置跑出过相近的结果。
  • L2 跨框架验证换一个推理框架或换一套环境仍然成立,可信度最高。

均值口径

搜索与详情里的一行 = 模型 + 硬件 + 框架 + 量化 的一个组合, 展示的是该组合下已上架记录的均值;点进详情可以看到组成这一行的每一条原始记录。 框架进聚合键是必须的——同一模型同一配置下,llama.cpp 与 vLLM 的性能可以差好几倍, 混在一起取平均会得出误导性的数字。

只统计已上架的记录:草稿与已下架数据不进入任何公开数字。 某条记录缺填的可选指标不参与该项平均,样本数始终按记录条数计。

来源可追溯

每条数据都带来源类型、来源链接与原文片段,可以点回原始出处自行核对。 本站不收无法追溯来源的数字。