目录
- 配置要求
- 安装Ollama
- 选择大模型
- 安装大模型
- 对话
- 备注
配置要求
我的电脑配置为：
CPU：i7 12代
GPU：3080
内存：32g
磁盘：1T
以上配置运行情况：
运行ollama run deepseek-r1:7b模型无压力，CPU/GPU使用率在 10% 左右。
运行ollama run deepseek-r1:32b模型输出明显变慢，大概 1 秒 2 ~4个 Token，CPU/GPU使用率在 70% 左右。
ChatGpt给出的部署推荐配置如下：
1. DeepSeek-R1 系列（轻量级部署）
适用于个人开发者、小型研究团队或资源有限的服务器。
| 模型版本 | 参数量 | 显存需求 | 推荐配置 |
|---|---|---|---|
| DeepSeek-R1-1.5B | 1.5B | 8GB+ | RTX 3060 (12GB) / RTX 4060 Ti (16GB) |
| DeepSeek-R1-7B | 7B | 24GB+ | RTX 3090 / 4090 (24GB) / A6000 (48GB) |
| DeepSeek-R1-14B | 14B | 40GB+ | RTX 4090 (24GB, 量化后可跑) / A100 (40GB) |
| DeepSeek-R1-32B | 32B | 80GB+ | A100 80GB / H100 (80GB) |
| DeepSeek-R1-70B | 70B | 128GB+ | 2×A100 80GB (或更大GPU集群) |
建议：
- 7B及以下的模型可以在高端消费级显卡上运行（如4090），但需要使用 4-bit/8-bit 量化 降低显存占用（可用
bitsandbytes）。 - 14B以上的模型推荐使用 专业级显卡（A100, H100），或者 多卡并行 方案。
2. DeepSeek-V3 系列（高性能部署）
适用于企业、学术机构或大规模推理应用。
| 模型版本 | 参数量 | 显存需求 | 推荐配置 |
|---|---|---|---|
| DeepSeek-V3 (37B 激活参数) | 37B | 128GB+ | A100 80GB ×2 / H100 80GB |
| DeepSeek-V3 (671B 总参数) | 671B | 1.5TB+ | H100 80GB ×16+ (或更大GPU集群) |
建议：
- DeepSeek-V3 37B 可以在多张 A100 80GB 上运行（如 2×A100 80GB），建议采用 TPU 或多卡并行（FSDP, ZeRO） 进行优化。
- DeepSeek-V3 671B 需要 云端或超算集群，适用于 数据中心 或 高端AI研究实验室。
实测 3080的 gpu也可以运行 32b模型，只是输出会慢一些，大概 1 秒 2 ~4个 Token。
安装Ollama
安装DeepSeek首先需要安装一个Ollama，这个软件相当于运行DeepSeek模型的底层，没有这个底层就没办法跑DeepSeek AI模型。
下载地址：
https://ollama.com/
点击下载windows版本：
点击Install
默认在c盘，不能修改，需要5G的磁盘大小。
安装好了以后在开始菜单可以查看有没有Ollama应用
选择大模型
直接命令安装：
DeepSeek提供的模型如下
版本：1.5b，适用于一般文字编辑使用（需要1.1GB空余空间）
ollama run deepseek-r1:1.5b版本：7b，DeepSeek的第一代推理模型，性能与OpenAl-01相当，包括从基于Llama和Qwen的DeepSeek-R1中提取的六个密集模型（需要
4.7GB空余空间）
ollama run deepseek-r1:7b版本：8b，（需要4.9GB空余空间）
ollama run deepseek-r1:8b版本：14b，（需要9GB空余空间）
ollama run deepseek-r1:14b版本：32b，（需要20GB空余空间）
ollama run deepseek-r1:32b版本：70b，（需要43GB空余空间）
ollama run deepseek-r1:70b版本：671b，（需要404GB空余空间）
ollama run deepseek-r1:671b
官网选择模型：
打开地址：
https://ollama.com/search
选择Models
选择deepseek-r1模型，左侧选择模型参数，右侧复制安装命令
安装大模型
打开终端，如果选择复制7b版本，可以复制如下命令：
ollama run deepseek-r1:7b
在终端内执行
等待下载完成
下载结束之后就有一小会儿出现【verifying sha256 digest】，是在检查完整性之类的东西，请耐心等待（模型越大等待时间越长）
成功之后会提示success
对话
安装成功后会可以直接输入问题按回车提问。
当然，终端的展示效果还是不太好，这时候就需要安装一下openWebUi，需要docker环境，如果没有安装docker的安装一个docker。
终端执行以下命令：
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
等待docker启动成功
安装完成后通过如下地址访问openWebUi：
http://localhost:3000
第一次进入需要设置一下管理员的账号密码。
随后进入主页，左侧会展示当前我们运行的模型。然后你就可以尽情的问他了。
备注
查看当前本地ollama有的模型命令：
ollama list
运行已有模型命令：
ollama run 模型名称
示例：
>ollama run deepseek-r1:7b
可供下载的模型：
版本：1.5b，适用于一般文字编辑使用（需要1.1GB空余空间）
ollama run deepseek-r1:1.5b版本：7b，DeepSeek的第一代推理模型，性能与OpenAl-01相当，包括从基于Llama和Qwen的DeepSeek-R1中提取的六个密集模型（需要
4.7GB空余空间）
ollama run deepseek-r1:7b版本：8b，（需要4.9GB空余空间）
ollama run deepseek-r1:8b版本：14b，（需要9GB空余空间）
ollama run deepseek-r1:14b版本：32b，（需要20GB空余空间）
ollama run deepseek-r1:32b版本：70b，（需要43GB空余空间）
ollama run deepseek-r1:70b版本：671b，（需要404GB空余空间）
ollama run deepseek-r1:671b
