Ubuntu部署Deepseek-R1模型(8b)

embedded/2025/2/6 23:25:57/

安装ubuntu系统

本机电脑系统ubuntu-20.04
#升级软件

sudo apt-get update

#安装curl

sudo apt-get install curl

通过以上两条指令,完成了curl命令的安装。
安装ollama
打开Ollama官网
在这里插入图片描述
选择Linux,
在这里插入图片描述

给出如上图方框所示的一条指令

curl -fsSL https://ollama.com/install.sh | sh

这条指令就是把ollama拖下来并执行安装。
在这里插入图片描述
ollama的下载速度很快,安装也很快。
然后运行

ollama -v

显示正常即表示安装成功,如:
在这里插入图片描述
下载deepseek-r1镜像
依然是在ollama的官网上,选择"Models",选择deepseek。
在这里插入图片描述
我的电脑是INVIDIA显卡,点击进来可以看得到各个版本的信息
1.5B的模型大概1.1G,
8B的模型大概4.9G,复制指令黏贴到命令行里,就可以自动开始下载了
这里测试8B模型

ollama run deepseek-r1:8b

在这里插入图片描述
在这里插入图片描述
测试
在这里插入图片描述
在这里插入图片描述

docker安装

我这里已经安装完毕,查看版本

docker --version

在这里插入图片描述

安装open-webui

open-webui是一个UI页面,支持ollama等多种工具的可视化。

sudo docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:main

在这里插入图片描述
在这里插入图片描述
打开个浏览器,输入地址127.0.0.1:3000访问
在这里插入图片描述
随便配置个账号密码,邮箱和密码后面是需要用来登录使用的,然后点击创建管理员账号。 回车后需要稍微等一等加载

sudo vim /etc/systemd/system/ollama.service

添加

Environment="OLLAMA_HOST=0.0.0.0"

网页显示
在这里插入图片描述

sudo systemctl daemon-reload
sudo systemctl restart ollama

网页测试

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

参考:
https://blog.csdn.net/tizi666666/article/details/145414886


http://www.ppmy.cn/embedded/160145.html

相关文章

OpenCV:图像轮廓

目录 简述 1. 什么是图像轮廓? 2. 查找图像轮廓 2.1 接口定义 2.2 参数说明 2.3 代码示例 2.4 运行结果 3. 绘制图像轮廓 3.1 接口定义 3.2 参数说明 3.3 代码示例 3.4 运行结果 4. 计算轮廓周长 5. 计算轮廓面积 6. 示例:计算图像轮廓的面…

中国城商行信贷业务数仓建设白皮书(第一期:总体规划)

一、项目背景与行业现状 1.1 国内城商行信贷业务痛点 2024年统计数据显示:全国134家城商行平均历史数据处理延迟达37小时/次 传统Oracle架构日均处理能力上限仅为320万笔交易 客户特征维度不足(现行系统平均维护86个客户标签) 监管报表生成耗时超同业股份制银行2.3倍 1.2 H…

车载软件架构 --- 基于AUTOSAR软件架构的ECU开发流程小白篇

我是穿拖鞋的汉子,魔都中坚持长期主义的汽车电子工程师。 老规矩,分享一段喜欢的文字,避免自己成为高知识低文化的工程师: 简单,单纯,喜欢独处,独来独往,不易合同频过着接地气的生活…

Java进阶文件输入输出实操(图片拷贝)

Java进阶文件输入输出实操(图片拷贝) 把某个目录下的全部图片,全部拷贝到另外一个目录 package test; import domee.chapter6_7.B; import java.io.*; public class Ex10_10 { public static void main(String[] args) throws IOException { …

用BGP的路由聚合功能聚合大陆路由,效果显著不?

正文共:666 字 11 图,预估阅读时间:1 分钟 之前我们统计过中国境内的IP地址和路由信息(你知道中国大陆一共有多少IPv4地址吗?),不过数量比较多,有8000多条。截止到2021年底&#xff…

IOC三种实现方式的区别

在Spring框架中,IOC(控制反转)通过依赖注入(DI)来实现,而依赖注入主要有三种实现方式:构造器注入、Setter注入和字段注入。每种方式都有其特点、适用场景和优缺点。以下是它们的详细对比&#x…

YOLOV11改进1-检测头篇

文章目录 前言一、YAML修改二、模型训练1.数据集准备2.环境准备3.训练3.1原结构训练3.2更改后的模型 三.效果对比1.原始结构2.修改后的结果3.详细对比 总结 前言 目标检测领域里,小目标一直是一个难点问题,虽然我们可以用YOLOSAHI的方式进行滑动窗口推理…

【论文分享】Ultra-AV: 一个规范化自动驾驶汽车纵向轨迹数据集

和大家分享一份最近的工作! 统一自动驾驶纵向轨迹数据集(Ultra-AV) 摘要 自动驾驶车辆在交通运输领域展现出巨大潜力,而理解其纵向驾驶行为是实现安全高效自动驾驶的关键。现有的开源AV轨迹数据集在数据精炼、可靠性和完整性方…