【DeepSeek-01】无需 Docker,千元级电脑本地部署 Ollama + DeepSeek-R1:14b + Chatbox

news/2025/2/12 7:44:54/

文章目录

  • DeepSeek-01:无需 Docker,千元级电脑本地部署 Ollama + DeepSeek-R1:14b + Chatbox
    • 本机环境
    • Ollama 安装步骤
      • 1. 下载 Ollama
      • 2. 安装
      • 3. 初始化配置
      • 4. 启动 Ollama 服务
    • DeepSeek-R1:14b 安装步骤
      • 1. 下载deepseek r1 14b模型
      • 2. 安装依赖项
      • 3. 下载模型配置文件
      • 4. 配置 Ollama 模型
      • 5. 启动 DeepSeek-R1 服务
    • Chatbox 安装步骤
      • 1. 下载 Chatbox
      • 2. 安装依赖项
      • 3. 配置 Chatbox
      • 4. 启动 Chatbox
    • 性能体验
    • 总结

DeepSeek-01:无需 Docker,千元级电脑本地部署 Ollama + DeepSeek-R1:14b + Chatbox

在这里插入图片描述

本机环境

码农上班忙,断更很长时间。deepseek火了一个春节,安奈不住,写几篇博客,纪念一下。初步目标是在本机部署deepseek r1:32b,但是下载了30%左右时,提示失败,遂放弃32b,改为deepseek r1:14b。
在这里插入图片描述

家人们,看看我的配置,不是30叉叉、也不是40叉叉。但是运行14b,非常丝滑。

  • 操作系统:Windows 10
  • CPU:Intel i5-13400
  • GPU:NVIDIA RTX 2080 Ti 22G
  • 内存:32GB DDR4
  • CUDA:12.4

强调:不安装docker、不安装docker。怎么轻量,就怎么操作。

Ollama 安装步骤

Ollama 是一个轻量级的模型托管工具,支持多种 AI 模型运行。以下是安装步骤:

1. 下载 Ollama

打开浏览器访问 ollama.ai,下载对应平台的exe安装包。

2. 安装

双击exe按照提示默认安装即可。

3. 初始化配置

无需额外设置。

4. 启动 Ollama 服务

启动Power Shell,通过命令行先查询Ollama是否安装成功:

ollama --version

如果显示了版本号,则表示ollama安装成功:

ollama version is 0.5.7

启动服务后,可以继续输入命令,直接在ollama仓库下载deepseek r1:14b。
14b模型大小大约9G,预计1个小时。注意:32b模型大约19G。
所以,下载前,请确保有足够的磁盘空间。

DeepSeek-R1:14b 安装步骤

DeepSeek-R1 是一个基于 LLaMA 的开源 AI 模型,以下是本地部署步骤:

deepseek_r1_14b_50">1. 下载deepseek r1 14b模型

继续在已启动ollama的PowerShell中输入命令:

ollama run deepseek-r1:14b

开始自动下载14b模型,进度如下:
在这里插入图片描述

模型保存目录:

C:\user\登录用户名.ollama\models

大家可以自行去目录查看模型。
下载完成且成功后,会提示如下信息:

Send a message(/? for help)

当然,也可以通过输入ollama list查询已下载的模型。如下图:
在这里插入图片描述

2. 安装依赖项

无需下载安装。

3. 下载模型配置文件

未下载、未设置。

4. 配置 Ollama 模型

使用默认配置,未进行修改。

5. 启动 DeepSeek-R1 服务

以后重启电脑,或者要启动deepseek r1服务,使用如下命令:

ollama run deepseek-r1:14b

是不是很眼熟?对了,这就是下载模型的命令,反正每次我都使用这个命令启动服务。

至此,可以使用CLI方式进行多轮对话了。
在这里插入图片描述

Chatbox 安装步骤

Chatbox 是一个简单易用的聊天界面工具,以下是安装和配置步骤:

1. 下载 Chatbox

浏览器里登录chatbox官网,下载64bit安装包。
按照默认提示进行安装即可。

2. 安装依赖项

此种方式不需要额外安装依赖。

3. 配置 Chatbox

可视化交互界面进行设置。选择“使用自己的API Key或本地模型”,出现“选择并配置AI模型提供方”。
这里有Ollama API、DeepSeek API等多个选项。请选择Ollama API。是的,不要惊讶,就是Ollama API。不要问我为啥知道,因为我选过另外一个选项……都是泪
在这里插入图片描述
在这里插入图片描述

之后出现的对话框API域名处设置为:

http://localhost:11434

模型处,选择:

deepseek-r1:14b

在这里插入图片描述

至此,安装完毕。本机轻松搞定一个AI对话机器人。
在这里插入图片描述

4. 启动 Chatbox

按开始菜单点击Chatbox快捷方式即可,在Chatbox里就可以自由聊天,体验deepseek-r1:14b带来的丝滑体验了。

性能体验

  • Ollama:轻量级,适合快速响应的小模型。
  • DeepSeek-R1:14b:推理速度较非常快,但生成结果更自然。
  • Chatbox:界面友好,支持多种模型切换。

总结

通过本次部署,我们成功在本地环境中搭建了 Ollama、DeepSeek-R1:14b 和 Chatbox 系统。虽然硬件配置为千元级,但通过合理的优化和配置,依然可以流畅运行大语言模型,并提供良好的交互体验。未来可以通过以下方式进一步改进:

  • 集成更多 AI 模型,丰富应用场景。

如果你有任何问题或需要进一步的帮助,请随时留言讨论!


http://www.ppmy.cn/news/1571359.html

相关文章

Redis 集群工作原理? 如何通信?MOVED和ASKED 有什么区别

目录 Redis 集群工作原理 1. 数据分片 2. 节点角色 3. 自动故障转移 Redis 集群通信方式 1. Gossip 协议 2. TCP 通信 MOVED 和 ASK 错误的区别 1. MOVED 错误 2. ASK 错误 Redis 集群工作原理 1. 数据分片 Redis 集群采用哈希槽(Hash Slot)来实现数据的分片存储…

2050年10月26日,星期四,芜湖

2050年10月26日,星期四,芜湖 清晨6:30,阳光透过智能调光窗帘缓缓洒进卧室,没有刺耳的闹钟,取而代之的是模拟自然光线和舒缓的江水声,这是林薇一天美好的开始。她的智能手环早已监测到她已进入浅睡眠状态&a…

TCP/IP参考模型和网络协议

由于国防部担心他们一些重要的主机、路由器和互联网关可能会突然崩溃,所以网络必须实现的另一目标是网络不受子网硬件损失的影响,已经建立的会话不会被取消,而且整个体系结构必须相当灵活。 TCP/IP是一组用于实现网络互连的通信协议。Interne…

机器学习之数学基础:线性代数、微积分、概率论 | PyTorch 深度学习实战

前一篇文章,使用线性回归模型逼近目标模型 | PyTorch 深度学习实战 本系列文章 GitHub Repo: https://github.com/hailiang-wang/pytorch-get-started 本篇文章内容来自于 强化学习必修课:引领人工智能新时代【梗直哥瞿炜】 线性代数、微积分、概率论 …

2025年前端常见面试题总结及其答案解析...万字长文持续更新..(最新至2月份)

以下是2025年前端常见面试题总结及其答案解析&#xff0c;涵盖了基础知识、框架、性能优化等多个方面。 1. HTML/CSS 问题&#xff1a;什么是语义化HTML&#xff1f; 解析&#xff1a;语义化HTML指的是使用能够明确表达内容意义的HTML标签。例如&#xff0c;使用<header&…

【算法学习】拓扑排序(Topological Sorting)

目录 定义 例子 拓扑排序的实现 核心思想 实现方法 1&#xff0c;Kahn算法&#xff08;基于贪心策略&#xff09; 步骤&#xff1a; 用二维数组存储图的例子 用哈希表存储图的例子 2&#xff0c;基于DFS的后序遍历法 总结 拓扑排序的应用场景 1&#xff0c;任务调度 …

【Linux Oracle】安装Oracle 19c客户端

Oracle相关文档&#xff0c;希望互相学习&#xff0c;共同进步 风123456789&#xff5e;-CSDN博客 1.背景 今天需要在一台服务器上只装Oracle客户端&#xff0c;用于连接其他服务器的库&#xff0c;以下为详细安装过程记录。 主要步骤&#xff1a;1&#xff09;用户、组 2&a…

AI时代下的安全新基石:零信任架构在人工智能系统中的应用

在AI飞速发展的今天&#xff0c;构建安全可靠的AI系统至关重要。然而&#xff0c;传统的安全模型已无法有效应对AI系统面临的独特挑战。 AI代码生成器 等AI工具的应用日益广泛&#xff0c;其安全问题也日益突出。因此&#xff0c;零信任安全方法应运而生&#xff0c;为AI安全提…