服务器上通过ollama部署deepseek

embedded/2025/3/10 22:41:10/

2025年1月下旬,DeepSeek的R1模型发布后的一周内就火了,性能比肩OpenAI的o1模型,且训练成本仅为560万美元,成本远低于openAI,使得英伟达股票大跌。

下面我们来看下如何个人如何部署deepseek-r1模型。
我是用的仙宫云的服务器通过ollama部署的deepseek.
首先我们去ollama官方网站https://ollama.com/
下载ollama
在这里插入图片描述
我这里是ubuntu服务器,执行命令
curl -fsSL https://ollama.com/install.sh | sh
安装之后ollama之后,
由于我需要外网访问,改下环境配置
export OLLAMA_HOST=0.0.0.0:11434;
export OLLAMA_ORIGINS= *
再执行ollama serve启动
在这里插入图片描述
ollama上找下deepseek 模型 https://ollama.com/search
在这里插入图片描述
deepseek有很多参数的模型可以选择,根据自己的机器选择
在这里插入图片描述
我这里是一台4090D,选择了32b的模型
执行ollama run deepseek-r1:32b就可以下载模型,下载完成出现下图这个命令行发送信息的提示就算成功。
在这里插入图片描述
测试下效果,好了部署是没问题了,在命令行太不方便了,这里我们用chatbox来配置带有界面的聊天。
在这里插入图片描述
下载个chatbox
https://chatboxai.app/zh#download
在这里插入图片描述
这里我选择window客户端
配置在仙宫云服务器的域名地址
在这里插入图片描述
配置好了之后会自动选择deepseek-r1:32b的模型
测试下效果,问deepseek如何部署,很快就出结果了,聊天框哪里会显示deepseek-r1:32b模型
在这里插入图片描述
好了这就是ollama部署的整个deepseek的流程,是不是很简单。

.


http://www.ppmy.cn/embedded/171597.html

相关文章

实现简易聊天室功能

实现简易聊天室功能 1.前端设计 <template><div><div><!-- 连接按钮 --><el-button v-loading"loading" :disabled"loading || isConnected" type"primary" click"connect">{{ isConnected ? "已…

可视化大屏出圈密码:地图组件深度解析

01 组件介绍 在数据可视化大屏搭建中&#xff0c;地图组件是使用最频繁且重要的组件之一。它不但能直观展现地理方位相关信息&#xff0c;还能通过与标记点、飞线、图表等各类组件巧妙搭配&#xff0c;达成更加多元、生动的数据呈现效果&#xff0c;在众多行业领域都得到了广泛…

大数据表高效导入导出解决方案,mysql数据库LOAD DATA命令和INTO OUTFILE命令详解

一.问题背景 java项目基于mysql实现大数据表跨服务器导入导出功能。之前整理过百万数据导入内存溢出的解决方案&#xff0c;这次情况又不一样了&#xff0c; 21万包含longtext字段的数据导入导出&#xff0c;解决了内存溢出的问题&#xff0c;速度却很慢&#xff0c;即使开启批…

【每日八股】Golang篇(二):关键字(上)

目录 make 和 new 的区别&#xff1f;概念例子 struct 能不能比较&#xff1f;为什么 slice 之间不能直接比较&#xff1f;slice 的底层实现&#xff1f;slice 和数组的区别&#xff1f;slice 的扩容机制&#xff1f;slice 是线程安全的吗&#xff1f;slice 之间如何比较&#…

PY32MD320单片机 QFN32封装,内置多功能三相 NN 型预驱。

PY32MD320单片机是普冉半导体的一款电机专用MCU&#xff0c;芯片采用了高性能的 32 位 ARM Cortex-M0 内核&#xff0c;主要用于电机控制。PY32MD320嵌入高达 64 KB Flash 和 8 KB SRAM 存储器&#xff0c;最高工作频率 48 MHz。PY32MD320单片机的工作温度范围为 -40 ~ 105 ℃&…

华为欧拉系统 Tomcat 安装详解

1. 安装或确认安装 Java Tomcat 需要 Java 环境(JDK 或 JRE)才能运行。如果系统尚未安装 Java,可以使用以下命令安装 OpenJDK: # 更新软件包索引 yum update -y# 安装 OpenJDK 21(可根据需求安装其他版本,如 8、11、17 等) yum install -y java-21-openjdk java-21-op…

python软件开发安装包配置问题以及如何焕电脑后批量安装安装包的问题

1.在软件开发的过程中往往需要安装许多的python包&#xff0c;如果通过&#xff1a;通过pip install packagex.x.x指定特定版本的话容易出现漏装的情况&#xff0c;于是就需要找到指定包进行安装&#xff0c;但这个时候如果我们新建一个文本文档&#xff1a;requirements&#…

C# 基础知识总结(持续更新中...)

C#有哪些数据类型&#xff1f; 值类型 引用类型 整数类型 实数类型 布尔类型 字符类型 结构类型 枚举类型 类 数组 字符串 接口 委托 对象型 C#有哪几种访问修饰符&#xff0c;有何区别&#xff1f; public 公共成员 访问不受限制 private 私有成员 只限于当前类成员…