DeepSeek-R1 本地电脑部署 Windows系统 【轻松简易】

embedded/2025/2/7 10:03:29/

本文分享在自己的本地电脑部署 DeepSeek,而且轻松简易,快速上手。

这里借助Ollama工具,在Windows系统中进行大模型部署~

1、安装Ollama

来到官网地址:Download Ollama on macOS

点击“Download for Windows”下载安装包,下载完成后能看到 OllamaSetup.exe

然后运行OllamaSetup.exe,进行Ollama安装,默认配置安装就好啦

安装完成后,能看到弹出小窗口,恭喜Ollama安装成功啦~

在应用列表也能看到的

2、加载和使用DeepSeek-R1

打开Windows“命令终端”,输入ollama,能看到相关信息:

然后来到Ollama的模型库 Ollama

找到deepseek-r1,点击进入

能看到deepseek-r1有不同大小的版本:1.5b、7b、8b、14b、32b、70b、671b

作者开源 DeepSeek-R1-Zero 和 DeepSeek-R1 两个 660B 模型的同时,

通过 DeepSeek-R1 的输出,蒸馏了 6 个小模型开源给社区,其中 32B 和 70B 模型在多项能力上实现了对标 OpenAI o1-mini 的效果。

大家根据显卡情况,选择模型大小

模型

参数 (B)

VRAM 要求 (GB)

推荐 GPU

DeepSeek - R1 - Zero

671B

~1,342 GB

多 GPU 配置(例如,NVIDIA A100 80GB x16)

DeepSeek - R1

671B

~1,342 GB

多 GPU 配置(例如,NVIDIA A100 80GB x16)

DeepSeek - R1 - Distill - Qwen 1.5B

1.5B

~0.75 GB

NVIDIA RTX 3060 12GB 或更高

DeepSeek - R1 - Distill - Qwen 7B

7B

~3.5 GB

NVIDIA RTX 3060 12GB 或更高

DeepSeek - R1 - Distill - Llama 8B

8B

~4 GB

NVIDIA RTX 3060 12GB 或更高

DeepSeek - R1 - Distill - Qwen 14B

14B

~7 GB

NVIDIA RTX 3060 12GB 或更高

DeepSeek - R1 - Distill - Qwen 32B

32B

~16 GB

NVIDIA RTX 4090 24GB

DeepSeek - R1 - Distill - Llama 70B

70B

~35 GB

多 GPU 配置(例如,NVIDIA RTX 4090 x2)

这里可以先选择小的试一试,比如8b,

输入命令:ollama run deepseek-r1:8b

这里建议能科学上网,不然可能需要等待很久很久~

3、安装chatbox,改善聊天界面

如果使用命令进行聊天,感觉不太舒服,而且代码也不方便表示

这时我们使用chatbox工具,然后加载DeepSeek-R1模型,这样可以用一个漂亮的可视化界面聊天啦

chatbox官网地址:Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载

然后点击Chatbox-1.9.7-Setup.exe,进行安装

建议安装路径放到D盘中,其他配置默认安装就好啦~

然后打开Chatbox,进行编辑配置

选择“OLLAMA API”,然后选择模型“deepseek-r1:8b”,其他配置默认就好啦

开启聊天啦

4、尝试不同版本的DeepSeek-R1

上面是DeepSeek-R1 8b的版本,用起来很流畅,于是尝试更大参数量的版本(32b)

输入命令:ollama run deepseek-r1:32b

成功啦~

使用olloma list,查询本地有那些模型

致敬:作者将DeepSeek-R1训练技术全部公开,以期促进技术社区的充分交流与创新协作。

论文链接: DeepSeek-R1/DeepSeek_R1.pdf at main · deepseek-ai/DeepSeek-R1 · GitHub

HuggingFace 链接: https://huggingface.co/deepseek-ai

 

分享完成~


http://www.ppmy.cn/embedded/160265.html

相关文章

python安装包,!pip 和不加!命令,功能区别一览

python安装包,!pip 和不加!命令,功能区别一览 1. !pip2. pip(不加 !)3. 区别总结4. 推荐用法5. 注意事项6. 总结 在 Jupyter Notebook 或 IPython 环境中,!pip 和 pip 的功能有所不同,主要体现在执行环境和…

深入剖析Electron的原理

Electron是一个强大的跨平台桌面应用开发框架,它允许开发者使用HTML、CSS和JavaScript来构建各种桌面应用程序。了解Electron的原理对于开发者至关重要,这样在设计应用时能更合理,遇到问题也能更准确地分析和解决。下面将从多个方面深入剖析E…

Debian 10 中 Linux 4.19 内核在 x86_64 架构上对中断嵌套的支持情况

一、中断嵌套的定义与原理 中断嵌套是指在一个中断处理程序(ISR)正在执行的过程中,另一个更高优先级的中断请求到来,系统暂停当前中断处理程序,转而处理新的高优先级中断。处理完高优先级中断后,系统返回到原来的中断处理程序继续执行。这种机制允许系统更高效地响应紧急…

javaEE-9.HTML入门

目录 一.什么是html 二.认识html标签 1.标签的特点: 2.html文件基本结构 3.标签的层次结构 三、html工具 四、创建第一个文件 五.html常见标签 1标题标签h1-h6 2.段落标签:p 3.换行标签:br 4.图片标签:img 图片路径有1三种表示形式: 5.超链接:a 链接的几种形式: …

系统思考VS线性思考

把系统拆解成独立的部分来研究,就像拆开钟表后声称理解了时间。——罗素艾可夫(系统科学家) 你是否也有过类似的经历?团队反复优化某个业务流程,但整体效率依然不见起色;企业投入巨资升级技术,…

深入解析:如何获取商品销量详情

在电商领域,商品销量是衡量产品受欢迎程度和市场表现的关键指标。获取商品销量详情对于商家、市场研究者和消费者来说都具有重要的价值。商家可以通过销量数据优化库存管理、调整营销策略;市场研究者可以分析市场趋势和消费者行为;消费者则可…

为什么在springboot中使用autowired的时候它黄色警告说不建议使用字段注入

byType找到多种实现类导致报错 Autowired: 通过byType 方式进行装配, 找不到或是找到多个,都会抛出异常 我们在单元测试中无法进行字段注入 字段注入通常是 private 修饰的,Spring 容器通过反射为这些字段注入依赖。然而,在单元测试中&…

【Go语言圣经】第七节:接口

第七章:接口 Golang 当中接口类型的独特之处在于它是满足隐式实现的。即:没必要对于给定的具体类型定义所有满足的接口类型,简单地拥有一些必要的方法即可。这种设计使得我们可以创建一个新的接口类型来满足已经存在的具体类型,却…