使用服务器部署DeepSeek-R1模型【详细版】

news/2025/2/8 14:42:39/

文章目录

  • 引言
  • deepseek-r1
  • IDE或者终端工具
  • 算力平台
  • 体验deepseek-r1模型
  • 总结

引言

在现代的机器学习和深度学习应用中,模型部署和服务化是每个开发者面临的重要任务。无论是用于智能推荐、自然语言处理还是图像识别,如何高效、稳定地将深度学习模型部署到生产环境中,都是提升系统性能和用户体验的关键环节。在本文中,我们将详细介绍如何在服务器上成功部署DeepSeek-R1模型,帮助你一步步了解从环境搭建到模型上线的全过程。

deepseek-r1

最近热度十分高的DeepSeek-R1大家相比都听过,它是幻方量化旗下大模型公司 DeepSeek 研发的系列推理模型,于 2025 年 1 月 20 日正式发布并开源权重。它使用强化学习训练,推理时包含大量反思和验证,思维链长,在数学、代码、自然语言推理等复杂任务上表现出色,与 ==OpenAI o1 ==性能相当 ,在 AIME、MATH-500、SWE-Bench Verified 等基准测试中成绩优异,还能自我事实核查降低错误风险。模型参数达 6710 亿,也有 15 亿至 70 亿参数的蒸馏版本,最小版可在普通笔记本运行。
目前,DeepSeek-R1 已在多个平台接入部署,如数码视讯、天翼云、联通云、青云科技基石智算 CoresHub 等

在这里插入图片描述
下图是模型出处
https://www.modelscope.cn/models/deepseek-ai/DeepSeek-R1/summary
在这里插入图片描述

IDE或者终端工具

这里我们选择IDE(VScode或Pycharm)或者终端工具,都可以,这里我选择使用Pycharm,当然别的也行,这里可以自行选择

算力平台

算力平台,我这里选择蓝耕云智算

在这里插入图片描述
我们选择一个3090的显卡试试水
在这里插入图片描述

体验deepseek-r1模型

在体验之前,我们需要下载必要的文件,这里我给大家一个网址
https://github.com/1692775560/deepseek_project

在这里插入图片描述
我们只需要将其放到服务器上面,就可以完成体验了

根据我们之前下载好的IDE,我们现在连接一下,然后就可以开心愉快的使用喽~下面的具体的链接过程

第一步
复制账户密码
在这里插入图片描述

第二步
粘贴下图所示的位置,进行连接等待本地文件传输到服务器
在这里插入图片描述
备注:username填写root即可,host,填写@后面的即可
在这里插入图片描述
这样就是成功了,当然我们还有配置一下环境,这里参考我下面的三小步即可

在这里插入图片描述

第三步

接下来,我们只需要在终端输入代码进行体验,但是进入我们要记得进入那个文件夹里面哦,下图是进入终端的方法

在这里插入图片描述

在进入到对应文件夹内,我们记得下载库啊,pip install -r requirements.txt
下载完之后,运行python run_model.py即可
在这里插入图片描述

总结

大模型发展速度是真的很快,过去可能国外更加领先一点,但是如今我国的deepseek-r1模型甚至可以挤进了世界前三,对于我们大部分人来说,自己构建一个大模型可能需要庞大的算力,数据等等,但是若我们学会如何使用,如何部署那么对我们日常工作学习也是起到了一个 促进作用,希望我的视频对你有帮助~~~

文末附上服务器的注册地址https://cloud.lanyun.net//#/registerPage?promoterCode=0131


http://www.ppmy.cn/news/1570340.html

相关文章

回溯算法中关于剪枝的一些应用

衔接上篇( ^ _ ^ ) 剪枝优化是回溯算法中一种重要的优化手段,其核心思想是 提前终止无效的递归分支,避免无意义的搜索,从而大幅减少计算量。通过合理剪枝,可以将指数级的时间复杂度降低到更优的水平。 一、…

机器学习常用包pandas篇(二)数据选择、删减、缺失值处理和可视化

目录 前言 1. 基于数字索引选择(iloc) 2. 基于标签名称选择(loc) 二、数据删减 1. 删除行/列(drop) 2. 数据去重(drop_duplicates) 3. 删除缺失值(dropna&#xff…

source 与 shell 之详解(Detailed Explanation of Source and Shell)

source 命令与 shell 变量 随着IC工具的升级迭代,不同项目使用到的 IC 工具版本可能会不一样。为保证 IC 工具版本和芯片项目的对应,需要使用 source 命令执行对应项目的环境变量设置脚本。那么,source 命令与一般的脚本执行命令&#xff0c…

每日Attention学习21——Cascade Multi-Receptive Fields

模块出处 [MICCAI 24] [link] TinyU-Net: Lighter Yet Better U-Net with Cascaded Multi-receptive Fields 模块名称 Cascade Multi-Receptive Fields (CMRF) 模块作用 轻量感受野块 模块结构 模块特点 起点使用PWConv(PointWise Convolution, 11卷积)压缩通道&#xff0c…

【C语言】数组名及其地址的理解与应用

博客主页: [小ᶻ☡꙳ᵃⁱᵍᶜ꙳] 本文专栏: C语言 文章目录 💯前言💯数组名的本质1. 数组名实际上是一个指向第一个元素的指针2. 数组名与数组首元素地址的关系 💯数组名与指针算术操作1. 数组名的指针特性2. 数组名与数组整体…

四、GPIO中断实现按键功能

4.1 GPIO简介 输入输出(I/O)是一个非常重要的概念。I/O泛指所有类型的输入输出端口,包括单向的端口如逻辑门电路的输入输出管脚和双向的GPIO端口。而GPIO(General-Purpose Input/Output)则是一个常见的术语&#xff0c…

GlusterFS源码讲解:如何实现最终一致性

引言 在分布式文件系统中,由于网络延迟、节点故障或临时分区原因,很难保证写操作在所有节点上立即生效。为了解决这一问题,很多系统采用最终一致性模型:写操作可能一开始没有同步到所有节点,但经过一段时间后&#xff…

mobaxterm 无法ssh连接ubuntu

0.查看IP地址 BASH homename -I ip addr show 1. 确保安装了 openssh-server 首先,确保你已经安装了 openssh-server,这是提供 SSH 服务的关键包。 步骤: 打开终端并更新包列表: BASH sudo apt update 安装 openssh-serve…