本地部署DeepSeek R1大模型

ops/2025/2/22 9:37:29/

一、安装软件

1.1 安装Ollama

你可以访问Ollama的官方网站https://ollama.com/download,选择适合你操作系统的安装包进行下载。老周这里是Mac系统,所以选择下载macOS系统。在这里插入图片描述

1.2 安装cherry studio

前往官网https://cherry-ai.com/download下载对应操作系统的安装包

在这里插入图片描述
1.3 下载deepseek R1本地模型

直接前往Ollama官网:https://ollama.com/library/deepseek-r1

在这里插入图片描述
根据自己电脑的配置选择不同参数的模型,

查下自己MAC电脑的显存:

system_profiler SPDisplaysDataType | grep "VRAM"

在这里插入图片描述
根据自己电脑的配置选择不同参数的模型。

老周这里让 DeepSeek 帮我推荐使用哪个参数的模型。

在这里插入图片描述
根据推荐老周这里选择了8b参数的模型:

ollama run deepseek-r1:8b

打开终端(Mac OS)或运行(Windows,可以用win键+r快捷键弹出),粘贴刚刚复制的代码(ollama run deepseek-r1:8b)

在这里插入图片描述
接下来可能有点慢,测你家网速的时候到了。

在这里插入图片描述

下载完成后,你已经可以直接使用Deepseek R1这个大模型了。不过,为了让大家有更好的体验,我特别推荐使用Cherry Studio这个工具。它不仅能调用你本地下载的模型,还可以连接各种云端模型服务,使用起来非常便捷。

1.4 设置Cherry Studio

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

然后在聊天界面,选择你所要对话的大模型,就可以直接对话了。如果出现对话说明本地部署DeepSeek R1大模型成功了。如果出现404啥的说明你没有配置对API地址,检查下面这两个操作是否配置对了。

在这里插入图片描述

默认模型选择你下载好的模型~

在这里插入图片描述

我让DeepSeek帮我安排一个行程,推理阶段吃掉我一半的CPU、内存也只省2G左右。

在这里插入图片描述


http://www.ppmy.cn/ops/160478.html

相关文章

【Gin-Web】Bluebell社区项目梳理3:社区相关接口开发

本文目录 一、接口详情1. 获取分类社区列表接口2. 根据id查询社区 二、值类型与引用类型 一、接口详情 跟社区有关的接口详情如下。 1. 获取分类社区列表接口 首先是Controller层,然后跳转到Logic层业务逻辑的开发。 这是Logic层,再做一次跳转&#…

支持向量机 (Support Vector Machine, SVM)

支持向量机 (Support Vector Machine, SVM) 支持向量机(SVM)是一种广泛应用于分类、回归分析以及异常检测的监督学习算法。它基于结构风险最小化(Structural Risk Minimization,SRM)原则,通过寻找一个最优…

tp6上传文件大小超过了最大值+验证文件上传大小和格式函数

问题: 最近用tp6的文件上传方法上传文件时报文件过大错误。如下所示: $file $this->request->file(file);{"code": 1,"msg": "上传文件大小超过了最大值!","data": {"code": 1,&q…

TSMaster【第三篇:神兵认主——TSMaster开发环境开锋 】

(软件安装如铸剑九步,硬件通道映射暗藏乾坤大挪移心法) 【武侠场景导入】光明顶密道寻宝 昔年明教光明顶密道中,张无忌偶得《乾坤大挪移》心法,须打通全身经脉方能施展。今我辈工程师欲驾驭TSMaster这把"倚天剑&…

机器视觉检测中,2D面阵相机和线扫相机的区别

2D面阵相机和线扫相机是工业视觉系统中常用的两种相机类型,各有其特点和应用场景。 2D面阵相机 特点: 成像方式:通过二维传感器一次性捕捉整个场景的图像。 分辨率:分辨率由传感器的像素数决定,常见的有百万像素到几千…

HarmonyOS NEXT深度研习指南(API 12+)

一、系统架构演进解析 1.1 分布式能力升级 跨设备虚拟化:通过"软总线2.0"实现设备资源池化,支持CPU/GPU/存储的按需组合(标注:设备发现时延降低至50ms以下)原子化服务增强:服务卡片支持动态数据…

基础前端面试题:HTML网站开发中,如何实现图片的懒加载

懒加载,顾名思义,在当前网页,滑动页面到能看到图片的时候再加载图片 故问题拆分成两个: 如何判断图片出现在了当前视口 (即如何判断我们能够看到图片)如何控制图片的加载 方案 1:使用 Inters…

【Mastering Vim 2_05】第四章:深入理解 Vim 的结构化文本

【最新版《Mastering Vim》封面,涵盖 Vim 9.0 版特性】 文章目录 第四章 深入理解结构化文本1 Vim 内置的自动补全功能2 YouCompleteMe 插件对自动补全的增强3 tags 文件的用法4 Exuberant Ctags 简介5 借助 Undotree 插件实现 Vim 撤销树的可视化 写在前面 本章围绕…