资料不想上传云端，本地跑模型要什么电脑、效果差多少？

担心资料泄露而想本地跑模型，这个思路现在完全可行。开源模型这两年进步很快，配合量化和检索技术，一台普通电脑就能把“私人知识库”这件事做起来，只是要接受一些能力上的取舍。

什么电脑跑得动

本地跑模型主要看内存和显存，模型参数量越大、精度越高，占用越多。日常使用一般选量化版本（比如 Q4），体积和效果折中得比较好。

• 入门：16GB 内存的笔记本，或 8GB 显存的显卡，能跑 7B 到 14B 的模型，比如 Qwen、Llama 这个量级，速度尚可。
• 进阶：24GB 显存（RTX 3090/4090），或 32GB 以上统一内存的 Mac，能跑 32B 级别的模型，日常问答和总结质量已经不错。
• 高配：64GB 以上内存才好跑 70B 级模型，对多数个人用户意义不大。

工具上，Ollama 和 LM Studio 装好就能用，模型下载到本地后断网也能跑。

效果跟云端差多少

差距是有的，但分场景看会更清楚：

1. 总结文档、提取要点、改写润色、基于自己的资料回答问题，14B 到 32B 的本地模型已经接近云端水平。尤其是配上 RAG（先从你的资料里检索相关内容，再让模型组织答案），知识主要来自你的文档，模型只需要读懂并表达，这对能力要求不高，本地完全够用。
2. 多步推理、复杂分析、高难度代码，本地模型和顶级云端模型差距明显，容易出错或答不到点上。
3. 长文档处理受本地显存限制，上下文长度一般不如云端大方，超长资料要切块处理。

适合什么数据场景

越是隐私敏感、越不依赖顶级智力的场景，本地方案越合适：

• 个人日记、笔记、聊天记录的整理和检索问答；
• 财务、健康、证件等不想外泄的资料；
• 公司内部文档，尤其是合规要求不能出内网的。

反过来，任务本身需要很强的推理能力，或者资料并不敏感，直接用云端更省心。务实的做法是混合使用：敏感资料走本地，公开问题走云端，各取所长。