本地大模型配置计算器

填机器配置 → 看能装到多大、该下哪个量化版本、去哪儿下
模型 · 点击下载参数推荐量化约占用状态
模型体积取自 ModelScope 仓库里的真实文件大小(多分片已累加);占用 = 体积 + 8K 上下文缓存 + 1.6G 驱动预留,仍是估算,实际以 llama.cpp / LM Studio 加载结果为准。
长上下文(32K+)或视觉模型要再多留 2–4GB;MoE 模型(gpt-oss / Qwen3-30B-A3B / Gemma-4-26B)虽然只激活几 B 参数,但全部权重都要载入,按总量算。
「慢跑」= 显存塞不下、靠内存分担,能跑但速度会掉到几十分之一。
下载走 ModelScope(国内直连快);HF 镜像需自备网络。
表格左边的勾选框 = 这台机器已经装好的模型,勾上后不再出现在推荐里(只存本地浏览器)。
企业要落地本地大模型 / 私有化部署?看看我们怎么交付 →