DeepSeek本地化部署【window下安装】【linux下安装】

ops/2025/2/11 15:38:56/

一、window 本地安装指导

1.1、下载window安装包

https://ollama.com/download/OllamaSetup.exe

1.2、点击下载好的安装包进行安装

检测安装是否成功:

C:\Users\admin>ollama -v
ollama version is 0.5.7

有上面的输出,则证明已经安装成功。

配置系统的环境变量

# 配置ollama监听网址,这里表示监听所有网卡
OLLAMA_HOST=0.0.0.0:11434
# 下载的大模型存放路径
OLLAMA_MODELS=F:\ollama_model

这里最后重启下电脑,使得设置的环境变量生效。

1.3、运行需要的大模型

在ollama官网搜索,deepseek,这里选择deepseek-coder来进行部署

在这里插入图片描述

并且选择1.3b参数的模型进行部署(资源有限,先保证能用)。

运行命令为:

ollama run deepseek-coder

linux_45">二、linux本地安装指导

ollama api使用指南:

https://github.com/datawhalechina/handy-ollama/blob/main/docs/C4/1.%20Ollama%20API%20%E4%BD%BF%E7%94%A8%E6%8C%87%E5%8D%97.md

2.1、下载安装ollama

1、安装ollama模型

curl -fsSL https://ollama.com/install.sh | sh

修改

/etc/systemd/system/ollama.service

添加上环境变量即可

OLLAMA_HOST=0.0.0.0:11434

重新启动ollama服务

sudo systemctl daemon-reload
sudo systemctl restart ollama

2.2、下载模型

ollama run deepseek-r1:1.5b

2.3、测试模型

curl http://localhost:11434/api/generate -d '{"model": "deepseek-r1:1.5b","prompt": "你是一个高级运维工程师。你的职责","stream": false
}'curl http://localhost:11434/api/chat -d '{"model": "deepseek-coder:latest","messages": [{"role": "user","content": "为什么草是绿的?"}],"stream": false
}'curl http://localhost:11434/v1/chat/completions -d '{"model": "deepseek-coder:latest","messages": [{"role": "user","content": "使用java实现一个冒泡排序算法"}],"stream": false
}'

三、IDEA接入私有化部署的Deepseek大模型

安装CodeGPT插件

3.1、在插件市场搜索CodeGPT,并进行安装。

在这里插入图片描述

3.2、配置codeGPT

在这里插入图片描述

安装上述图片描述进行配置。

其中URL:部署Deepseek的服务器的IP地址和端口

请求体中model参数是你安装那个deepseek大模型的名称。可以通过ollama list来列出已经安装的大模型。

[root@iZbp156z1grx9j03c0zl8tZ ~]# ollama list
NAME                     ID              SIZE      MODIFIED
deepseek-coder:latest    3ddd2d3fc8d2    776 MB    About an hour ago

如果通过ollama安装了多个大模型,你可以指定其他大模型,但是名称要跟使用上面命令列出的模型名称保持一致。

指定刚刚配置的模型为我们的编码助手。

在这里插入图片描述

3.3、测试功能是否可用

在这里插入图片描述

经过测试,发现已经可以通过codeGPT插件调用Deepseek的大模型了。

四、Deepseek本地部署的大模型API调用

可以参考下面的文档进行使用

ollama api使用指南:

https://github.com/datawhalechina/handy-ollama/blob/main/docs/C4/1.%20Ollama%20API%20%E4%BD%BF%E7%94%A8%E6%8C%87%E5%8D%97.md

此外,ollama 还支持通过openAI格式的接口调用,

如对话接口:

http://8.136.125.228:11434/v1/chat/completions

在这里插入图片描述


http://www.ppmy.cn/ops/157554.html

相关文章

2.10学习总结

今天接着看了数据结构&#xff0c;但是跟指针有关的看不懂&#xff08;万恶的指针&#xff09;&#xff0c;写了考试的补题。 #include <stdio.h> #include <stdlib.h> int a[1000005]; int main() {int n,i,x0;scanf("%d",&n);for(i1;i<n;i){x;i…

Web - CSS3过渡与动画

过渡 基本使用 transition过渡属性是css3浓墨重彩的特性&#xff0c;过渡可以为一个元素在不同样式之间变化自动添加补间动画。 过渡从kIE10开始兼容&#xff0c;移动端兼容良好&#xff0c;网页上的动画特效基本都是由JavaScript定时器实现的&#xff0c;现在逐步改为css3过…

2025年四川省考《行测》复盘

得分情况 ps&#xff1a;这是真 天塌了&#xff0c;居然才得了这么点分。 给自己找个借口&#xff0c;就是上班摸鱼写的&#xff0c;静不下心来。 下面开始复盘。不过四川的题怎么才这么点&#xff0c;居然时间还给两小时&#xff0c;行测差距应该不会太大吧&#xff1f; 言语…

XSLT 编辑 XML

XSLT 编辑 XML 引言 XML(可扩展标记语言)和XSLT(可扩展样式表语言转换)是处理和转换XML数据的重要工具。XSLT特别用于将XML文档转换为其他格式,如HTML或纯文本。本文将深入探讨XSLT编辑XML的过程,包括基本概念、常用技术以及实际应用案例。 XSLT 简介 XML 简介 XML是…

osclass增加支持webp格式

1、basic_data.sql 数据表&#xff1a;t_preference中的(osclass, allowedExt, png,gif,jpg,jpeg, STRING)&#xff0c;添加&#xff1a;png,gif,jpg,jpeg,webp 2、includes/osclass/mimes.php webp > image/webp, 3、includes/osclass/classes/ImageProcessing.php 修…

ffmpeg基本用法

一、用法 ffmpeg [options] [[infile options] -i infile]... {[outfile options] outfile}... 说明&#xff1a; global options&#xff1a;全局选项&#xff0c;应用于整个 FFmpeg 进程&#xff0c;它们通常不受输入或输出部分的限制。 infile options&#xff1a;输入选…

Spring模块组成

一、Spring模块 Spring 总共大约有 20 个模块&#xff0c; 由 1300 多个不同的文件构成。 而这些组件被分别整合在核心容器&#xff08;Core Container&#xff09; AOP&#xff08;Aspect Oriented Programming&#xff09; 设备支持&#xff08;Instrmentation&#xff09; …

HTML之CSS定位、浮动、盒子模型

HTML之CSS定位、浮动、盒子模型 定位 <!DOCTYPE html> <html lang"en"> <head><meta charset"UTF-8"><meta name"viewport" content"widthdevice-width, initial-scale1.0"><title>Document<…