本地部署 DeepSeek:从 Ollama 配置到 Spring Boot 集成

ops/2025/3/4 11:29:19/

前言

        随着人工智能技术的迅猛发展,越来越多的开发者希望在本地环境中部署和调用 AI 模型,以满足特定的业务需求。本文将详细介绍如何在本地环境中使用 Ollama 配置 DeepSeek 模型,并在 IntelliJ IDEA 中创建一个 Spring Boot 项目来调用该模型。通过这些步骤,您将能够在本地环境中高效地运行和测试 AI 模型,提升开发效率。

详细步骤

一、本地配置DeepSeek

1.安装Ollama

Ollama 是一个开源平台,旨在简化大型语言模型的本地部署和管理。您可以从 Ollama官网下载适用于 Windows、Linux 或 macOS 的安装包。

安装成功后可以使用win+R并输入cmd打开终端,接着输入ollama检查是否安装成功,如果有输出对应信息则说明安装成功了

2.下载对应DeepSeek模型并运行

首先选中想要配置的DeepSeek版本并复制右侧指令

将指令复制到终端并进行下载对应版本的DeepSeek,下载完成之后到这个界面,就是下载成功了,可以输入一些信息进行测试

二、SpringBoot项目调用本地DeepSeek

1.创建springboot项目

具体操作如下:

  • 打开 IntelliJ IDEA,选择 "New Project"。
  • 选择 "Spring Initializr" 作为项目类型。
  • 填写项目的基本信息,如 Group、Artifact 等。
  • 在 "Dependencies" 中添加所需的依赖,例如 "Spring Web"。
  • 点击 "Create" 创建项目。

这里我添加了Web和Ollama的依赖,创建成功界面如下

2.添加deepseek对应配置信息

在application.properties中添加下面配置信息

spring.ai.ollama.chat.options.model=deepseek-r1:1.5b
spring.ai.ollama.base-url=http://127.0.0.1:11434
spring.ai.ollama.chat.enabled=true
server.port=9099

3.编码调用deepseek

接着创建简单controller类和service实现类,结构如图:

对应代码如下:
controller:

java">@RestController
public class testController {@Autowiredprivate DeepSeekTestService deepSeekTestService;@RequestMapping("/ask1")public String speak(@RequestParam String msg){return deepSeekTestService.getResponse(msg);}
}

service接口:

java">public interface DeepSeekTestService {String getResponse(String message);
}

service实现类

java">@Service
public class DeepSeekServiceImpl implements DeepSeekTestService {private final OllamaChatModel ollamaChatModel;public DeepSeekServiceImpl(OllamaChatModel ollamaChatModel) {this.ollamaChatModel = ollamaChatModel;}@Overridepublic String getResponse(String message) {String response = ollamaChatModel.call(message);return response;}
}
4.测试


启动项目,在浏览器的url路径中输入对应信息进行测试,这样一个简单的springboot对接deepseek项目就完成了!

好久没有更新了,绝对不是懒哈哈哈,好吧其实就是懒了,后面会继续更新一些有关Java的学习知识!还希望大家多多点赞支持,你的支持就是我的最大动力!!!


http://www.ppmy.cn/ops/163031.html

相关文章

8295智能座舱弹窗点击问题,点击window之外的区域,window不消失的问题。touchableRegion的问题分析(android 13)

1.问题描述 在项目开发过程中,遇到input的问题。用户点击status bar的Wifi图标之后,会弹出wifi列表的window,而点击这个window之外的区域,wifi列表的窗口不会消失的问题。 2. 问题分析定位 分析触摸问题,必不可少的会…

攻防世界WEB(新手模式)18-easyphp

打开题目,直接开始代码审计 条件1:$a 必须存在,且 intval($a) 必须大于 6000000,同时 strlen($a) 必须小于等于 3。 这意味着 $a 必须是一个字符串,且它的整数值大于 6000000,但字符串长度不能超过 3。这看…

JS宏进阶:数据分类之逻辑回归

一、逻辑回归介绍 逻辑回归(Logistic Regression)是一种用于解决分类问题的统计学习方法,特别是适用于二分类问题。 1、原理 线性模型与逻辑函数:逻辑回归基于线性回归的概念,但通过使用逻辑函数(也称为 sigmoid 函数)将线性模型的输出映射到 [0, 1] 的概率范围内。这…

机器学习:特征提取

介绍 (一)原理 特征提取的核心概念是将高维、复杂的原始数据转换为低维且具有代表性的特征集合。原始数据往往包含大量冗余或无关信息,直接使用这些数据进行模型训练不仅会增加计算成本,还可能导致模型性能下降。通过特征提取&a…

一文了解:部署 Deepseek 各版本的硬件要求

很多朋友在咨询关于 DeepSeek 模型部署所需硬件资源的需求,最近自己实践了一部分,部分信息是通过各渠道收集整理,so 仅供参考。 言归正转,大家都知道,DeepSeek 模型的性能在很大程度上取决于它运行的硬件。我们先看一下…

通往 AI 之路:Python 机器学习入门-语法基础

第一章 Python 语法基础 Python 是一种简单易学的编程语言,广泛用于数据分析、机器学习和人工智能领域。在学习机器学习之前,我们需要先掌握 Python 的基本语法。本章将介绍 Python 的变量与数据类型、条件语句、循环、函数以及文件操作,帮助…

开源模型应用落地-DeepSeek-R1-Distill-Qwen-7B-Docker助力-模型部署 “光速” 指南

一、前言 在人工智能的浪潮里,大语言模型不断迭代更新,DeepSeek-R1-Distill-Qwen-7B 模型凭借出色的表现,吸引着无数开发者的目光。然而,想要将这个强大的模型顺利部署并投入使用,过程却并不轻松。传统的部署方式仿佛布满荆棘,从底层环境搭建到各种依赖项的适配,每一步都…

Halcon图像预处理算子 sobel算子、傅里叶变换算子、卷积算子

滤波类型算子适用噪声特点均值滤波mean_image高斯噪声平滑均匀,可能额模糊边缘中值滤波median_image椒盐噪声保留边缘,抑制脉冲噪声高斯滤波gauss_filter高斯噪声加权平均,边缘更平滑 均值滤波 mean_image(Image,ImageMean,MaskWidth,MaskHe…