#GPU
whichllm:本地跑大模型选模型神器
这两年开源模型从 Llama 到 Qwen,再到 Gemma,能力一点点逼近闭源模型。于是不少人开始动心思,想要在自己电脑上本地部署模型,试图解决高昂的 Token 费用。
但在 HuggingFace 上有上百多万个开源模型,参数量从 1…