你的机器,能跑什么 AI?
本地部署实测数据库:Decode / Prefill / 显存占用,每条数据标注来源与证据等级。
热门:
从哪里开始
收录状况
- 11
- 条已上架实测记录
- 4
- 款硬件
- 3
- 个模型
- 3
- 个推理框架
数据说明
证据等级
每条记录都标注证据等级,数字背后有没有第二个人复现过,一眼能看出来:
- L0 自报来自发布方或作者的公开数据,尚未被独立复现。
- L1 已复现有人按同样的配置跑出过相近的结果。
- L2 跨框架验证换一个推理框架或换一套环境仍然成立,可信度最高。
均值口径
搜索与详情里的一行 = 模型 + 硬件 + 框架 + 量化 的一个组合, 展示的是该组合下已上架记录的均值;点进详情可以看到组成这一行的每一条原始记录。 框架进聚合键是必须的——同一模型同一配置下,llama.cpp 与 vLLM 的性能可以差好几倍, 混在一起取平均会得出误导性的数字。
只统计已上架的记录:草稿与已下架数据不进入任何公开数字。 某条记录缺填的可选指标不参与该项平均,样本数始终按记录条数计。
来源可追溯
每条数据都带来源类型、来源链接与原文片段,可以点回原始出处自行核对。 本站不收无法追溯来源的数字。