目录
deepseek一键部署脚本说明
0 必要前提
1 使用方法
1.1 使用默认安装配置
1.1 .1 使用其它ds模型
1.2 使用自定义安装
2 附录:deepseek模型手动下载
3 脚本下载地址
deepseek一键部署脚本说明
0 必要前提
-
linux环境
-
python>=3.10
1 使用方法
1.1 使用默认安装配置
不建议:这种方法安装包自带了8b的模型,整个包有25G。
-
下载DeepSeek-R1-one.tar.gz
-
将DeepSeek-R1-one.tar.gz压缩包解压到/data路径下,包含了deepseek-r1、 deploy.sh、使用说明.pdf
-
压缩包自带了deepseek-r1的8b模型,确保模型所在路径为/data/DeepSeek-R1
-
执行deploy脚本:bash deploy.sh
等待安装完成:
后端服务api地址 : http//:ip:24444;可在浏览器页面打开,查看接口文档
自带可视化页面:http//:ip:6008;可在浏览器页面打开,开始与ds对话。
1.1 .1 使用其它ds模型
确保模型路径命名为/data/DeepSeek-R1
其它同1.1
1.2 使用自定义安装
脚本下载地址
可自定义后端端口号、前端端口号、模型路径、模型名称、显卡数量
-
可直接下载deploy.sh脚本文件
-
执行deploy脚本:./deploy.sh --custom
-
根据提示配置后端端口号、前端端口号、模型路径、模型名称
等待安装完成:
后端服务api地址 : http//:ip:自定义端口;可在浏览器页面打开,查看接口文档
自带可视化页面:http//:ip:自定义端口;可在浏览器页面打开,开始与ds对话。
2 附录:deepseek模型手动下载
-
modelscope
-
huggingface
3 脚本下载地址
-
脚本下载地址
-
相关渠道联系博主
4 其它
支持lmdeploy部署的,都可以使用该脚本