deepseek本地部署

ops/2025/2/7 5:16:04/

DeepSeek本地部署详细指南

DeepSeek作为一款开源且性能强大的大语言模型,提供了灵活的本地部署方案,让用户能够在本地环境中高效运行模型,同时保护数据隐私,这里记录自己DeepSeek本地部署流程。

主机环境

  • cpu:amd 7500F
  • gpu:4060 8G
  • system:win11
  • memory: 32G

步骤

  1. 下载安装Ollama
    去官网https://ollama.com/download/windows下载ollama,根据自己需求下载对应版本,我这里下载的是windows版。
    在这里插入图片描述
    安装成功标志,桌面左下角展示ollama图标
    在这里插入图片描述

  2. 设置大语言模型下载目录
    这里修改下存储目录,不是必须设置,不设置的话会默认将所有内容下载到C盘下面。
    高级系统设置->环境变量->新建系统变量
    在这里插入图片描述
    在这里插入图片描述

  3. 下载大语言模型
    在刚才的官网搜索deepseek,选择合适的模型,若显存8GB选择7/8b,若显存为12GB,可选择14b。
    在这里插入图片描述
    若选择了8b,可使用下面命令进行安装

ollama run deepseek-r1:8b

随后打开任务管理器(记得用管理员),然后输入命令进行部署,本地会下载对应的模型。
在这里插入图片描述
安装成功标志
在这里插入图片描述
在这里插入图片描述


http://www.ppmy.cn/ops/156348.html

相关文章

全面掌握C#的JObject类:C#开发之JSON数据解析与操作实战指南

在C#中,处理JSON数据是日常开发中常见的任务之一。JObject类是 Newtonsoft.Json(也称为Json.NET)库的一部分,它提供了一个灵活且强大的方式来解析、查询和操作JSON数据。本文将深入探讨JObject类的各种用法,包括基本操…

PostgreSQL 数据库备份与还原

为了安全与数据共享等,创建好的数据库有时候需要备份操作和还原操作。数据库的备份与还原主要是三个命令:pg_dump、pg_dumpall 和 pg_restore 。 其中pg_dump用于备份单个数据库,它支持多种备份格式(SQL、自定义等)&a…

c++:list

1.list的使用 1.1构造 1.2迭代器遍历 (1)迭代器是算法和容器链接起来的桥梁 容器就是链表,顺序表等数据结构,他们有各自的特点,所以底层结构是不同的。在不用迭代器的前提下,如果我们的算法要作用在容器上…

正则表达式超详细讲解

欢迎并且感谢大家指出我的问题,由于本人水平有限,有些内容写的不是很全面,只是把比较实用的东西给写下来,还有对一些常用的正则表达式进行收集整理,如果有写的不对的地方,还希望大家多多指教!谢…

STM32-启动文件

STM32-启动文件 简介启动文件栈空间开辟堆空间开辟中断向量表定义复位程序 系统启动流程 简介 STM32 启动文件由 ST 官方提供,由汇编编写,是系统上电复位后执行的第一个程序。 启动文件主要做的工作。 1.初始化堆栈指针 SP _initial_sp 2.初始化程序计…

Android学习20 -- 手搓App2(Gradle)

1 前言 昨天写了一个完全手搓的:Android学习19 -- 手搓App-CSDN博客 后面谷歌说不要用aapt,d8这些来搞。其实不想弄Gradle的,不过想着既然开始了,就多看一些。之前写过一篇Gradle,不过是最简单的编译,不涉…

MYSQL简单查询

MYSQL简单查询 完整语法: select [distinct] , … [from [where ] [group by , … [having ] ] [order by asc| desc ] [limit [offset , ] rows ] ] select 简单查询select 1 ; -- 往往用来 做 数据库心跳检测select user() ; -- 获取 当前登录的用户信息sele…

c++ list的front和pop_front的概念和使用案例—第2版

在 C 标准库中,std::list 的 front() 和 pop_front() 是与链表头部元素密切相关的两个成员函数。以下是它们的核心概念和具体使用案例: 1. front() 方法 概念: 功能:返回链表中第一个元素的引用(直接访问头部元素&am…