AI Agent
本地LLM推理设备部署指南

用真实数据说话，拒绝虚标
社区驱动的大模型推理设备性能数据库

用真实数据说话，拒绝虚标 — 社区驱动的大模型推理设备性能数据库

收录设备

覆盖厂商

价格区间

带宽区间 (GB/s)

Show estimated values from similar models Show suspicious values (exceeding BW ceiling) 显示理论带宽参考线 X 轴对数 Y 轴对数 Z 轴对数

Measured Estimated from similar model * Suspicious (exceeds BW ceiling) ⚠

排序指标

Measured Estimated from similar model * Suspicious (exceeds BW ceiling) ⚠

X 轴

Y 轴

气泡大小 (可选)

Measured Estimated from similar model * Suspicious (exceeds BW ceiling) ⚠

X 轴

Y 轴

Z 轴

气泡大小 (可选)

#	设备名称	厂商	类型	内存 GB	带宽 GB/s	INT8 TOPS	价格	功耗	9B Decode	9B Prefill	27B Decode	27B Prefill	35B-A3B Decode	量化	框架

AI Agent本地LLM推理设备部署指南