如何在Window计算机本地部署DeepSeek-r1模型

embedded/2025/2/6 12:31:09/

如何在Window计算机本地部署DeepSeek-r1模型

  • 安装Ollama
  • 配置GPU加速(可选)
  • 部署DeepSeek-r1模型
  • 1.5b模型效果演示

本文介绍了如何使用Ollama在Windows计算机本地部署DeepSeek-r1模型。

安装Ollama

访问Ollama官网下载对应操作系统的安装包(支持Windows/macOS/Linux)。

使用图形界面安装,安装时建议修改默认路径至大容量磁盘。

验证安装:在CMD或者PowerShell终端输入ollama -v,显示版本号即成功。

PS C:\Users\xqc> ollama -v
ollama version is 0.5.7

配置GPU加速(可选)

确保已安装显卡驱动和CUDA/ROCm库(NVIDIA显卡需CUDA,AMD需ROCm)。

由于我使用的是出厂自带Nvidia RTX显卡的Windows计算机,已经安装了最新的显卡驱动,因此只需要下载安装CUDA就行。

访问Nvidia官网下载Nvidia CUDA库的安装包。

使用图形界面安装,建议安装在C盘。

部署DeepSeek-r1模型

下面是ollama官网提供的几种不同大小的DeepSeek模型:

模型大小
1.5b1.1GB
7b4.7GB
8b4.9GB
14b9.0GB
32b20GB
70b43GB
671b404GB

总的来说,模型越大,效果越好,但是对算力的要求也就越高。

根据显存选择模型版本(这里我们选最小的1.5b模型),运行命令下载到本地:

ollama pull deepseek-r1:1.5b

查看已经下载好的模型:

ollama list

运行模型:

ollama run deepseek-r1:1.5b

成功运行后可通过终端直接交互,输入/bye退出。

DeepSeek模型思考过程中可以通过任务管理器观察到GPU使用率有非常明显的飙升,说明模型使用到了GPU的算力。

1.5b模型效果演示

以下是1.5b模型效果的演示:

PS C:\Users\xqc> ollama run deepseek-r1:1.5b
>>> 你好,你是谁?
<think></think>您好!我是由中国的深度求索(DeepSeek)公司开发的智能助手DeepSeek-R1。如您有任何任何问题,我会尽我所
能为您提供帮助。>>> 帮我写一个500字左右的童话故事,必须涉及猴子和松鼠两种动物,结尾要表达一定的寓意和哲理。
<think>
好的,用户之前让我扮演一个AI助手,并回应了关于自己是谁的回答。现在他给出了一个新的查询请求,要求我帮
他写一个500字左右的童话故事,主题是包含猴子和松鼠,结尾要有一定的寓意和哲理。首先,我要理解他的需求。他需要一个充满生动想象力的故事,涉及到两只动物——猴子和松鼠。故事需要有合理
的情节发展,并且以某种隐喻或哲理结尾,可能是关于团结、和谐还是牺牲与合作的主题。接下来,我得考虑如何将猴子和松鼠作为主角来表现他们各自的特点和性格。猴子通常聪明机智,喜欢独断专行;
而松鼠则温和耐心,擅长合作。因此,故事中可以展示他们之间的矛盾和冲突,并最终通过解决达成平衡。结尾部分需要有一个深刻的寓意或哲理。可能涉及友谊、牺牲精神,或者团队的力量。我需要确保结局既有温暖又
带有一点思考,让读者在阅读后有所感悟。然后,我会构思故事的结构:开头引入两个动物,中间描述他们各自的特点和冲突,高潮部分展示如何解决问题,
以及结尾传达寓意。同时,要注意语言的生动性和形象性,使故事更具吸引力。最后,我需要检查故事是否符合字数要求,并确保情节连贯、情感自然地展开。如果有任何不通顺或者不符合主题
的地方,我会及时调整以确保最终的作品达到用户的要求。
</think>## 猴子和松鼠赛跑记记得那是一个寒冷的冬天,我的家在远山深处。外面下着零星下的雪,树枝上积了一层薄雾,仿佛什么都没有飘过
。Inside 我们住的木屋里,月光透过窗户洒进来,在地板上投下斑驳的影子。我常常坐在木椅上,仰望着窗外飞速
而过的白鸽,它们在空中划出优美的弧线,像是在跳舞。"小兔子,慢点走吧。"妈妈的声音从身后传来。我抬头一看,那只被关在笼子里的小兔子正蜷缩在角落里,用那双
雪白的眼睛盯着外面的一切。它似乎有点儿困惑,又好像不太明白什么。我把头扭向天空,看到天上的雪覆盖着一层薄纱,远处的山峦被拉得很低矮,像是用绳子绑在一起的一根链子。我
的手指有些发抖地摸了摸腿下的积雪,突然想到,也许这就是故事的目标——让他们找到回家的路。松鼠总是特别善于合作,在这里我认识的松鼠们每天都会带着它们的新食物过来找我们。它们总是热情地和小动物
们分享食物,甚至会主动帮助我们解决困难。可是,有时候它们也会因为太热而睡着,这样就会浪费食物。猴子则比较聪明,总能想出一些让人感到困惑的办法来解决问题。比如,每当我看到他们总是独自跑在最后,我会
想起那个传说中的故事——猴子和松鼠赛跑的故事。那是从前的一个森林里,有一只大猴子因为怕吃掉一堆松果而
躲在树上,而一只小松鼠则会负责把松果搬过来。后来,大猴子学会了分治的方法,每次遇到困难都会 Divide 和 Conquer 的策略。不过,即使这样,当所有的成
员都离开后,他仍然会在最后跑过这最后一个障碍。相比之下,那只小松鼠总是先跑在前面,而最终会因为太累而
退缩。回到我现在的家,在月光下,我发现两只动物的脚印已经模糊了。我的小手在冰凉中不自觉地摩挲着毛发。突然,
我的心跳声变得异常快,仿佛有什么东西在我面前晃动起来。"小兔子,快点跑过去吧!"我抬头看着那只松鼠,它已经从自己的笼子里蹦了起来,像一个活跃的舞者一样,动作轻盈而优雅。它的背影让我
想起了很久以前那个故事——猴子和松鼠一起奔跑时的默契。"我来你家吧。"小兔子转身走向我的小屋。我走到它身边,看着它们合作在一起的样子。渐渐地,我发现它们之间
的距离在缩小,阳光透过窗户洒进来,在他们的身上反射出光点。一个月亮高悬天际,我看到一只黑色的大鸟掠过天空,留下一道银白色的影子。那是一只会飞的兔子,它的耳朵上
沾着一层薄雾,像是被风吹破了一样。它优雅地落在了小松鼠的肩上,轻轻地说:"我们来一起回家吧。"最终,它们终于在一片雪中相遇。阳光暖暖地洒在我的脚底,我的手触到了他们的脚印。它们继续向前跑,在月光
里交织在一起,就像故事里的那条神奇的路。那一刻,我忽然明白了一个道理:即使是最出色的个体,也难以独自完成任何事情。只有当他们团结一致、智慧运
用时,才能找到出路。>>> /bye

😢 嗯…看这个效果,如果自己没有很高端的显卡来运行8b或是更大的模型的话,建议还是使用官网的吧。


http://www.ppmy.cn/embedded/160025.html

相关文章

【蓝桥杯嵌入式】工程创建

1、新建工程 2、选择芯片 3、打开高速外部时钟 4、debug选择串口通信方式 5、时钟配置 6、工程配置 注意工程保存路径不能有中文 选择每次都加载保留.c/.h文件&#xff0c;这样操作后可以简化以后的编程步骤&#xff0c;但是减慢程序的编译速度。 7、keils配置 选择CMSIS-D…

java开发面试自我介绍模板_java面试自我介绍3篇

java 面试自我介绍 3 篇 java 面试自我介绍篇一&#xff1a; 我叫赵&#xff0c;我的同学更都喜欢称呼我的英文名字&#xff0c;叫&#xff0c;六月的 意思&#xff0c;是君的谐音。我来自安徽的市&#xff0c;在 21 年我以市全市第一名 的成绩考上了大学&#xff0c…

OpenCV4,快速入门,第二讲:图像色彩空间转换

文章目录 引言一、色彩空间概述1.1 RGB与HSV的区别1.2 HSV的详细含义cvtColor二、cvtColor函数详解2.1 函数原型2.2 参数说明2.3 使用示例三、imwrite函数详解3.1 函数原型3.2 参数说明3.3 使用示例四、完整示例代码五、应用场景与注意事项5.1 HSV的典型应用5.2 注意事项结语引…

【大数据技术】Spark分布式实现词频统计(hadoop+python+spark)

Spark分布式实现词频统计(hadoop+python+spark) 搭建完全分布式高可用大数据集群(VMware+CentOS+FinalShell) 搭建完全分布式高可用大数据集群(Hadoop+MapReduce+Yarn) 本机PyCharm远程连接CentOS虚拟机(Python) 搭建完全分布式高可用大数据集群(Scala+Spark) 在阅读…

【多线程】线程池核心数到底如何配置?

&#x1f970;&#x1f970;&#x1f970;来都来了&#xff0c;不妨点个关注叭&#xff01; &#x1f449;博客主页&#xff1a;欢迎各位大佬!&#x1f448; 文章目录 1. 前置回顾2. 动态线程池2.1 JMX 的介绍2.1.1 MBeans 介绍 2.2 使用 JMX jconsole 实现动态修改线程池2.2.…

jvm - GC篇

如何减慢一个对象进入老年代的速度&#xff0c;如何降低GC的次数 堆内存细分 年轻代&#xff08;Young Generation&#xff09;&#xff1a; 新创建的对象首先被分配在年轻代中。年轻代又被进一步划分为一个Eden区和两个Survivor区&#xff08;通常称为S0和S1&#xff09;。…

PythonFlask框架

文章目录 处理 Get 请求处理 POST 请求应用 app.route(/tpost, methods[POST]) def testp():json_data request.get_json()if json_data:username json_data.get(username)age json_data.get(age)return jsonify({username: username测试,age: age})从 flask 中导入了 Flask…

Vue-data数据

目录 一、Vue中的data数据是什么&#xff1f;二、data支持的数据类型有哪些&#xff1f; 一、Vue中的data数据是什么&#xff1f; Vue中用到的数据定义在data中。 二、data支持的数据类型有哪些&#xff1f; data中可以写复杂类型的数据&#xff0c;渲染复杂类型数据时只要遵…