【DeepSeek】DeepSeek R1 本地windows部署(Ollama+Docker+OpenWebUI)

embedded/2025/2/22 1:33:07/

1、背景: 

2025年1月,DeepSeek 正式发布 DeepSeek-R1 推理大模型。DeepSeek-R1 因其成本价格低廉,性能卓越,在 AI 行业引起了广泛关注。DeepSeek 提供了多种使用方式,满足不同用户的需求和场景。本地部署在数据安全、性能、定制化、成本、离线可用性和技术自主性方面具有显著优势。

本文详细讲解 基于 Ollama+Docker+OpenWebUI 的本地windows部署流程

2、环境需求: 

1.1 硬件需求:

DeepSeek R1 本地部署的硬件需求如下:

1.2 软件依赖:

DeepSeek R1 本地部署的软件依赖包括操作系统、容器化工具、编程语言、深度学习框架、数据库、消息队列、Web 服务器、GPU 加速工具、版本控制、包管理工具、监控与日志工具以及安全工具。

本教程采用 Windows server 2016 64位操作版本、Python 3.8 版本、PyTorch 1.7 版本。

3、Ollama 下载与安装:

1.1 Ollama 的下载:

Ollama 是一个开源的本地模型运行工具,可以方便地下载和运行各种开源模型,如 Llama、Qwen、DeepSeek 等。Ollama 提供高效、灵活的大模型部署和管理解决方案,可以简化模型的部署流程。支持macOS、Linux、Windows 操作系统。

ollama官网地址:https://ollama.com/
ollama下载地址:https://ollama.com/download

本教程选择 Ollama Windows 版本下载。 

1.2 Ollama 的安装:

下载完成后直接点击 OllamaSetup.exe 进行安装。

安装完成后,cmd 打开命令行窗口,输入 “ollama -v” 测试,显示 ollama 的版本为 “0.5.7”,表明安装成功。

1.3 Ollama 的运行:

Ollama 没有用户界面,在后台运行。

打开浏览器,输入 “http://localhost:11434/”,显示 “Ollama is running”。

4、deepseek-r1 模型安装:

1.1 Ollma 安装 deepseek-r1 模型:

从 ollama 官网 查找 deepseek-r1 模型。

点击进入 deepseek-r1 模型,可以选择不同版本的模型(1.5b/7b/14b/32b/70b/671b)。
deepseek-r1 提供多个版本,参数量越大,模型的性能越强大,但也需要更多的存储和计算资源。

  • 1.5b 模型参数为15亿/1.1GB,
  • 7b 模型参数约为 70亿/4.7GB,
  • 14b 模型参数约为 140亿/9GB。

deepseek-r1 不同版本模型的执行命令不同:

1.5b 的命令为:

ollama run deepseek-r1:1.5b

7b 的命令为:

ollama run deepseek-r1:7b

14b 的命令为:

ollama run deepseek-r1:14b

本教程选择选择 7b 模型,在CMD命令行窗口运行安装命令 “ollama run deepseek-r1:7b”,程序会自动下载和安装运行。

安装完成后显示 “success”,表明安装成功。

注:默认地址是 “C:\Users%username%.ollama\models”。

如果要修改模型的保存地址,可以新建一个文件夹如 “C:\Model”,

然后在系统环境变量添加系统变量:

“变量名:OLLAMA_MODELS,变量值:C:\Model”。

1.2 使用 deepseek-r1 模型:

在命令行窗口运行命令 “ollama run deepseek-r1:7b”,就可以在提示行输入,与 deepseek-r1 进行聊天。

输入 “/?”,可以获得帮助。

注:通过本地命令行窗口可以使用 deepseek-r1,但这让人回到了 DOS 年代,交互体验很差。接下来我们按照 Docker 和 Open WebUI 用户界面,可以更便捷地使用 deepseek-r1。


http://www.ppmy.cn/embedded/163407.html

相关文章

41.日常算法

1.面试题 02.04. 分割链表 题目来源 给你一个链表的头节点 head 和一个特定值 x ,请你对链表进行分隔,使得所有 小于 x 的节点都出现在 大于或等于 x 的节点之前。你不需要 保留 每个分区中各节点的初始相对位置。 示例 1: 输入&#xff1a…

深入理解Linux网络随笔(一):内核是如何接收网络包的(下篇)

3、接收网络数据 3.1.1硬中断处理 数据帧从网线到达网卡时候,首先到达网卡的接收队列,网卡会在初始化时分配给自己的RingBuffer中寻找可用内存位置,寻找成功后将数据帧DMA到网卡关联的内存里,DMA操作完成后,网卡会向…

基于大数据的奥运会获奖数据分析系统设计与实现

【大数据】基于大数据的奥运会获奖数据分析系统设计与实现(完整系统源码开发笔记详细部署教程)✅ 目录 一、项目简介二、项目界面展示三、项目视频展示 一、项目简介 该系统通过集成先进的数据抓取、处理、存储与可视化技术,为深入理解奥运会…

Ubuntu 24.04.1 LTS 本地部署 DeepSeek 私有化知识库

文章目录 前言工具介绍与作用工具的关联与协同工作必要性分析 1、DeepSeek 简介1.1、DeepSeek-R1 硬件要求 2、Linux 环境说明2.1、最小部署(Ollama DeepSeek)2.1.1、扩展(非必须) - Ollama 后台运行、开机自启: 2.2、…

在Java项目中跨域的解决办法

目录 一、跨域 1、什么是跨域 二、跨域的解决方案CROS 1、CROS简介 2、在项目中的具体实施 1.使用CrossOrigin注解 三、nignx反向代理解决跨域 1、什么是反向代理 2、nginx解决跨域 一、跨域 1、什么是跨域 跨域是由于浏览器的同源策略导致的限制。同源策略&#xff…

Python 自然语言处理(NLP)和文本挖掘的常规操作过程

Python 自然语言处理(NLP)和文本挖掘 自然语言处理(NLP)和文本挖掘是数据科学中的重要领域,涉及对文本数据的分析和处理。Python 提供了丰富的库和工具,用于执行各种 NLP 和文本挖掘任务。以下是一些常见的…

【吾爱出品】针对红警之类老游戏适用WIN10和11的补丁cnc-ddraw7.1汉化版

针对红警之类老游戏适用WIN10和11的补丁cnc-ddraw7.1汉化版 链接:https://pan.xunlei.com/s/VOJ8PZd4avMubnDzHQAeZDxWA1?pwdnjwm# 直接复制到游戏安装目录,保持与游戏主程序同目录下。

开源赋能,智造未来:Odoo+工业物联网,解锁智能工厂新范式——以真实案例解读制造业数字化转型的降本增效密码

工业物联网的机遇与挑战:为什么企业需要Odoo? 《中国智能制造发展研究报告2023》指出,85%的制造企业已启动数字化转型,但超60%面临“数据孤岛、系统割裂、成本高企”的痛点[1]。传统ERP系统难以实时对接产线设备,而定…