DeepSeek-R1 本地部署指南

一、基础环境搭建

安装 Ollama

1. 下载 Ollama：
   • 访问Ollama 官网 ，根据你的操作系统 （Windows 、 Mac 或 Linux） 下载相应安装包。
   • 以 Mac 和 Windows 为例，

1. 安装验证：
   • 安装完成后，在终端输入<font style="color:rgb(26, 32, 41);">ollama -v</font>验证安装是否成功。正确安装将显示版本号。
   • 如何打开终端：
     • Mac：找到终端工具。
     • Windows：使用 Win+R 输入 cmd 。

ollama -v

二、模型部署

1. 选择模型版本：
   • 打开 Ollama 模型库，选择适合自己电脑硬件的 DeepSeek-R1 模型版本 （1.5B 、 7B 、 32B 等） 。

通用配置原则

1. 模型显存占用（估算）：
   • 每 1B 参数约需 1.5-2GB 显存（FP16 精度） 或 0.75-1GB 显存（INT8/4-bit 量化） 。
   • 例如：32B 模型在 FP16 下需约 48-64GB 显存，量化后可能降至 24-32GB 。
2. 内存需求：至少为模型大小的 2 倍 （用于加载和计算缓冲） 。
3. 存储：建议 NVMe SSD，模型文件大小从 1.5B（约 3GB） 到 32B（约 64GB） 不等。

分平台配置建议

1.5B 模型

平台	最低配置	推荐配置
Windows	- CPU: Intel i5 / Ryzen 5	- CPU: Intel i7 / Ryzen 7
	- RAM: 8GB	- RAM: 16GB
	- GPU: NVIDIA GTX 1650 (4GB)	- GPU: RTX 3060 (12GB)
macOS	- M1/M2 芯片 （8GB 统一内存）	- M1 Pro/Max 或 M3 芯片 （16GB+）
Linux	- CPU: 4 核	- CPU: 8 核
	- RAM: 8GB	- RAM: 16GB
	- GPU: NVIDIA T4 (16GB)	- GPU: RTX 3090 (24GB)

---

7B/8B 模型

平台	最低配置	推荐配置
Windows	- CPU: Intel i7 / Ryzen 7	- CPU: Intel i9 / Ryzen 9
	- RAM: 16GB	- RAM: 32GB
	- GPU: RTX 3060 (12GB)	- GPU: RTX 4090 (24GB)
macOS	- M2 Pro/Max（32GB 统一内存）	- M3 Max（64GB+ 统一内存）
Linux	- CPU: 8 核	- CPU: 12 核
	- RAM: 32GB	- RAM: 64GB
	- GPU: RTX 3090 (24GB)	- 多卡 （如 2x RTX 4090）

---

14B 模型

平台	最低配置	推荐配置
Windows	- GPU: RTX 3090 (24GB)	- GPU: RTX 4090 + 量化优化
	- RAM: 32GB	- RAM: 64GB
macOS	- M3 Max（64GB+ 统一内存）	- 仅限量化版本，性能受限
Linux	- GPU: 2x RTX 3090（通过 NVLink）	- 多卡 （如 2x RTX 4090 48GB）
	- RAM: 64GB	- RAM: 128GB

---

32B 模型

平台	最低配置	推荐配置
Windows	- 不推荐 （显存不足）	- 需企业级 GPU（如 RTX 6000 Ada）
macOS	- 无法本地部署 （硬件限制）	- 云 API 调用
Linux	- GPU: 4x RTX 4090（48GB 显存）	- 专业卡 （如 NVIDIA A100 80GB）
	- RAM: 128GB	- RAM: 256GB + PCIe 4.0 SSD

---

平台差异说明

1. Windows：
   • 依赖 CUDA 和 NVIDIA 驱动，推荐使用 RTX 30/40 系列。
   • 大模型 （14B+） 需借助量化或模型分片技术。
2. macOS：
   • 仅限 Apple Silicon 芯片 （M1/M2/M3），依赖 Metal 加速。
   • 模型规模超过 14B 时性能显著下降，建议量化或云端部署。
3. Linux：
   • 支持多 GPU 扩展和高效资源管理 （如 NVIDIA Docker） 。
   • 适合部署大型模型 （14B+），需专业级硬件。

---

注意事项

• 量化优化：使用 4-bit/8-bit 量化可大幅降低显存需求 （如 bitsandbytes[6]） 。
• 框架支持：优先选择优化好的库 （如 vLLM 、 DeepSpeed 、 HuggingFace） 。
• 散热：长时间推理需确保散热 （建议风冷/水冷） 。

（二） 顺利下载与稳定运行

• 若选择 1.5B 版本，输入 ollama run deepseek-r1:1.5b 。
• 若选择 7B 版本，输入 ollama run deepseek-r1:7b 。我 Mac 选择的是这个。
• 若选择 8B 版本，输入 ollama run deepseek-r1:8b 。
• 若选择 32B 版本，输入 ollama run deepseek-r1:32b 。

三、打造专属 AI 聊天室

（一） 安装配置 「Cherry Studio」

1. 安装

1. 配置

• 模型选择：从模型列表中选择与你本地部署的 DeepSeek-R1 模型版本对应的选项，如果没有直接匹配项，选择支持自定义模型配置的入口。
• 自定义配置：在自定义配置中，将 API 地址设置为 http://localhost:11434 ，这是 Ollama 服务的默认接口地址，确保 Cherry Studio 能连接到本地运行的 DeepSeek-R1 模型。
• 模型参数设置：根据你的硬件配置和使用需求，设置模型的相关参数，如最大生成长度、温度等，一般默认参数即可满足常见需求，但对于特定任务，你可以适当调整，比如生成创意文本时，可将温度调高至 0.8 - 1.0，以增加文本的多样性；进行严谨的知识问答时，可将温度调低至 0.5 - 0.7 ，使回答更稳定。
• API 密钥大家随意设置就好，然后点击检查就好。

（二） 安装配置 Chatbox 客户端

• API 类型：选择 「OLLAMA」，这一步能确保 Chatbox 与我们部署的 DeepSeek-R1 模型进行正确通信。
• 接口地址：填写 http://localhost:11434 ，这个地址是 Ollama 服务的默认接口地址，通过它 Chatbox 可以连接到本地运行的 DeepSeek-R1 模型。
• 模型名称：务必填写与之前下载的模型版本完全一致的名称，例如，如果之前下载的是 7B 版本，模型名称就必须填写 deepseek-r1:7b ，否则可能会导致连接失败。

四、如何使用 DeepSeek

1. 使用公式：
   • 按照身份、任务、细节、格式的顺序重组问题，以获得所需结果。