#本地大模型

本地部署大模型怎么做：Ollama 与 vLLM 的显存换算、量化选型和并发实测

本地部署大模型的关键不是装哪个工具，而是先把显存账算清：模型权重加 KV Cac…