llmfit：看看你的电脑能跑什么模型

想在本地跑大模型，往往卡在一些现实问题上：这台电脑到底能跑什么模型？显存够不够？不同模型在速度、质量和上下文之间怎么取舍？

llmfit 就是为这个场景做的开源工具。它会检测 RAM、CPU、GPU / VRAM 等本机条件，再从内存适配、速度、质量、上下文四个维度做分析和推荐。

llmfit 默认提供交互式 TUI，也支持 CLI 和 REST API。你可以直接运行 llmfit 查看模型排序，也可以用 llmfit recommend --json 获取推荐结果，或用 llmfit info "" 查看单个模型的适配分析。它还支持 Ollama、llama.cpp、MLX、Docker Model Runner、LM Studio 等本地运行时。

llmfit bench 还能对支持的、正在运行的本地运行时做真实推理测试。实测结果会先保存在本地，并用于替代或校准原来的速度估算；如果愿意，还可以通过 --share 把 Benchmark 结果贡献给社区，让相同硬件配置的用户直接受益。

小七的电脑实际跑了一遍：Windows 下下载对应的 Release、解压后，在 llmfit.exe 所在目录打开终端运行 .\llmfit.exe，程序就会自动检测硬件并给出模型适配结果。在 Good 适配档下筛出了 4000+ 个模型，还可以继续查看模型大小、量化版本、预计速度、内存占用等信息。

如果你经常折腾本地模型，需要在多个模型之间做取舍，或者想把节点级模型适配结果接进自动化流程，llmfit 很适合先装上试试。

开源项目 llmfit 本地模型 大型语言模型LLM 开发者工具 模型选型 CLI GitHub