用JAVA实现人工智能：采用框架Spring AI Java

ops/2025/1/12 17:06:42/

Spring AI 集成人工智能，为Java项目添加AI功能指南

本文主旨是用实际的可操作的代码，介绍Java怎么通过spring ai 接入大模型。

例子使用spring ai alibaba QWen千问api完成，你可以跑通以后换自己的实现。QWen目前有100万免费Token额度，可以快速实现需求。同时，因为qwen也是个开源的模型，我们可以自己搭建模型来实现免费使用。

目录

?编辑

Spring AI 集成人工智能，为Java项目添加AI功能指南

Spring AI 介绍：为Java引入统一的AI开发框架

Spring AI的主要功能介绍

模型 Model

提示 Prompt

提示词模板 Prompt Template

嵌入 Embedding

结构化输出 Structured Output

检索增强生成 RAG

智能体 Agent

函数调用 Function Calling

向量存储 Vector Store

Spring AI Alibaba 介绍 ：接入阿里云百炼大模型的开发工具

阿里云通义千问介绍

使用Spring AI Alibaba构建聊天API的详细指南

1. 环境准备

2. 获取API Key

3. 配置API Key

4. Maven仓库与依赖配置

5. ChatClient的初始化与控制器实现

6. 测试

Spring AI 介绍：为Java引入统一的AI开发框架

过去，Java在AI应用框架方面存在不足，缺乏一个能够良好支持AI开发的统一框架。Spring AI应运而生，它是一个专为AI工程设计的应用框架，旨在将Spring生态系统的设计原则如可移植性和模块化引入AI领域。Spring AI的核心优势在于它提供了一套标准化接口，使得开发者可以轻松地切换不同的AI服务提供商，仅需修改配置即可。此外，Spring AI与现有的Spring生态兼容性极好，同时也完美地融入了Java面向对象编程的特点。这不仅简化了开发流程，还极大地减少了迁移和维护的成本。

Spring AI的主要功能介绍

模型 Model

一句话说明：提供与阿里云通义大模型交互的能力。
输入：用户查询或指令。
输出：基于大模型生成的响应。
举例：通过ChatClient调用通义千问，实现聊天对话。

提示 Prompt

一句话说明：作为有组织的一系列消息和请求选项的容器。
输入：一系列消息及请求选项。
输出：AI模型的响应结果。
举例：使用ChatModel的call()方法传递Prompt实例，获取AI回复。

提示词模板 Prompt Template

一句话说明：用于构建动态提示内容的模板机制。
输入：占位符参数值。
输出：完整的提示字符串。
举例：从文件加载模板并替换参数后发送给AI模型，如生成笑话。

嵌入 Embedding

一句话说明：将文本转换为向量表示，便于相似度计算等操作。
输入：原始文本。
输出：对应的向量形式。
举例：将用户输入转换成向量，用于后续处理如检索增强生成。

结构化输出 Structured Output

一句话说明：将AI模型的非结构化输出转换为结构化的Java对象。
输入：AI模型生成的非结构化文本。
输出：映射到指定Java Bean的数据。
举例：将描述演员及其电影列表的文字自动转换为ActorsFilms类的对象。

检索增强生成 RAG

一句话说明：结合外部数据源提高生成内容的质量和准确性。
输入：用户查询及相关背景信息。
输出：基于检索结果生成的更准确回答。
举例：利用阿里巴巴财报PDF中的信息回答关于财报的问题。

智能体 Agent

一句话说明：代表执行特定任务的逻辑实体。
输入：任务相关的参数。
输出：任务执行的结果。
举例：定义一个数学工具函数供LLM在需要时调用进行计算。

函数调用 Function Calling

一句话说明：允许大型语言模型调用开发者定义的功能。
输入：函数名及所需参数。
输出：函数执行后的结果。
举例：通过定义MessageStatusService查询消息状态，并由LLM决定何时调用。

向量存储 Vector Store

一句话说明：管理和查询文档向量数据库。
输入：文档及其元数据。
输出：按相似度排序的匹配文档列表。
举例：上传PDF文件至知识库，随后基于查询向量检索相关片段。

Spring AI Alibaba 介绍 ：接入阿里云百炼大模型的开发工具

Spring AI Alibaba 是基于 Spring AI 的实现，它专为接入阿里云百炼系列大模型而设计。通过 Spring AI Alibaba，开发者能够轻松使用阿里云通义提供的聊天、图片生成或语音生成等AI应用。

Spring AI Alibaba 提供了包括对话、文生图、文生语音等功能在内的多种生成式模型适配，并支持OutputParser、Prompt Template以及让AI模型接入外部数据的能力。

这使得开发者可以快速构建具备智能对话和其他AI功能的应用程序。

其核心优势在于标准化了不同AI提供者的接口实现，允许一次编写代码后只需更改配置即可切换不同的AI服务提供商。此外，它直接兼容Flux流输出，简化了与市场上多数基于流的机器人模型的集成过程。

阿里云通义千问介绍

通义千问是由阿里集团提供的开源大模型服务，支持全尺寸、多模态的大规模模型。在中文开源模型领域中，通义千问展现了卓越的能力，在多项客观评测指标上超越了Llama 3 70B，并在国内的思南大模型竞技场排名中名列前茅。

通义千问的核心优势包括：1）能力排名靠前；2）可访问性和合规性；3）完全开源；4）价格合适。其中，Qwen和Qwen vl两个模态的模型在开源榜单上均位居国内第一。调用API的成本较低，且有100万免费token可以使用，甚至可以选择自己构建以实现免费使用。

对于大模型的客观测评方法，通常采用基准测试和人类评估两种方式。基准测试通过设置考题和答案来评分，常见的基准测试包括GSM-8K、MMLU、TheoremQA和GPQA等。而人类评估或竞技场模式则是由人根据偏好选择更优的答案，这种模式更加贴近实际应用场景，但可能存在主观性偏差。结合使用这两种方法可以获得更为全面的大模型性能评价。

参考链接：

  • https://huggingface.co/spaces/open-llm-leaderboard/open_llm_leaderboard

  • https://lmarena.ai

  • CompassArena

使用Spring AI Alibaba构建聊天API的详细指南

为了实现基于Spring AI Alibaba的聊天API，允许用户输入信息并通过流式返回结果，我们需遵循以下步骤。这个过程包括了环境配置、依赖管理、API Key设置、ChatClient的注入以及具体的Controller实现等环节。以下是详细的执行步骤：

1. 环境准备

确保你的开发环境满足如下要求：

  • JDK版本：JDK 17 或更高。

  • Spring Boot版本：3.3.x 或更高。

2. 获取API Key

访问阿里云百炼页面，登录后开通“百炼大模型推理”服务，并创建一个新的API Key。请妥善保存此Key，后续需要在项目中使用。

3. 配置API Key

在启动你的应用程序前，请确保已在环境中设置了AI_DASHSCOPE_API_KEY环境变量，其值为上一步获取到的API Key。例如，在Unix-like系统中可通过命令行设置：

export AI_DASHSCOPE_API_KEY=your_api_key_here

同时，在application.properties文件里添加以下内容以供Spring Boot应用读取：

spring.ai.dashscope.api-key=${AI_DASHSCOPE_API_KEY}
4. Maven仓库与依赖配置

由于Spring AI Alibaba相关组件尚未发布到Maven中心仓库，因此你需要将Spring官方的里程碑和快照仓库添加至项目的pom.xml文件中。此外还需添加Spring AI Alibaba的starter依赖和其他必要的Spring Boot依赖项。

<repositories><repository><id>sonatype-snapshots</id><url>https://oss.sonatype.org/content/repositories/snapshots</url><snapshots><enabled>true</enabled></snapshots></repository><repository><id>spring-milestones</id><name>Spring Milestones</name><url>https://repo.spring.io/milestone</url><snapshots><enabled>false</enabled></snapshots></repository><repository><id>spring-snapshots</id><name>Spring Snapshots</name><url>https://repo.spring.io/snapshot</url><releases><enabled>false</enabled></releases></repository></repositories><dependencies><!-- Spring Boot parent project --><parent><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-parent</artifactId><version>3.3.4</version><relativePath/></parent><dependency><groupId>com.alibaba.cloud.ai</groupId><artifactId>spring-ai-alibaba-starter</artifactId><version>1.0.0-M3.1</version></dependency><!-- Other dependencies as needed -->
</dependencies>
5. ChatClient的初始化与控制器实现

接下来，我们需要在Controller中注入ChatClient实例，并通过它来处理来自用户的请求。这里展示了一个简单的示例，该示例接收用户输入并利用Flux流式返回AI生成的回答。

@RestController
@RequestMapping("/ai")
@CrossOrigin(origins = "*")
public class ChatController {private final ChatClient chatClient;@Value("classpath:correct-and-expand.st")Resource resource;public ChatController(ChatClient.Builder builder) {this.chatClient = builder.build();}@GetMapping("/chat")public String chat(String input) {return this.chatClient.prompt().user(input).call().content();}@GetMapping(value = "/chatStream")public Flux<String> chatSteam(@RequestParam String input, HttpServletResponse response) {// 如果遇到乱码问题，可增加编码设置response.setCharacterEncoding("UTF-8");PromptTemplate promptTemplate = new PromptTemplate(resource);Prompt prompt = promptTemplate.create(Map.of("input", input));return chatClient.prompt(prompt).stream().content();}
}

以上代码展示了如何构建一个简单的聊天API端点，其中/chat用于非流式响应，而/chatStream则支持基于Reactor的流式响应。

6. 测试

完成上述步骤后，你可以通过向http://localhost:8080/ai/chat?input=你好发送GET请求来测试聊天功能是否正常工作。对于流式响应，尝试访问http://localhost:8080/ai/chatStream?input=你好查看效果。

通过按照上述步骤操作，你就能成功集成Spring AI Alibaba框架，搭建起一个基本但功能完整的聊天API服务。


http://www.ppmy.cn/ops/149069.html

相关文章

HTML 迷宫游戏

HTML 迷宫游戏

HTML 迷宫游戏 相关资源文件已经打包成压缩文件&#xff0c;可双击index.html直接运行程序&#xff0c;且文章末尾已附上相关源码&#xff0c;以供大家学习交流&#xff0c;博主主页还有更多Python相关程序案例&#xff0c;秉着开源精神的想法&#xff0c;望大家喜欢&#xff0…
阅读更多...
Qt信号槽相关语法

Qt信号槽相关语法

下面詳細解釋新的 Qt 連接語法&#xff0c;也就是 Qt5 引入的基於函式指標的連接方式。這種語法相較於 Qt4 的字串式連接&#xff0c;更安全、更易讀、且在編譯時期就能檢查錯誤。 Qt4 的字串式連接 (已不建議使用): 在 Qt4 中&#xff0c;連接信號與槽是使用字串來指定信號和…
阅读更多...
如何确保爬虫程序稳定运行？

如何确保爬虫程序稳定运行？

确保爬虫程序稳定运行是爬虫开发中的一个重要环节。以下是一些关键策略和技巧&#xff0c;可以帮助提高爬虫的稳定性和可靠性&#xff1a; 1. 异常处理 捕获异常&#xff1a;在爬虫程序中&#xff0c;使用try-except语句来捕获和处理异常。这可以防止程序因单个请求失败而崩溃…
阅读更多...
Selenium，一个Web自动化测试的Python库！

Selenium，一个Web自动化测试的Python库！

Selenium&#xff0c;一个Web自动化测试的Python库 大家好&#xff0c;我是景墨。今天咱们来聊聊一个超级实用的Python库&#xff1a;Selenium。这个库可以帮我们实现Web自动化测试&#xff0c;简直是测试工程师和爬虫开发者的神器&#xff01;保证学会了这个&#xff0c;你的…
阅读更多...
欧拉公式和傅里叶变换

欧拉公式和傅里叶变换

注&#xff1a;英文引文机翻&#xff0c;未校。 中文引文未整理去重&#xff0c;如有异常&#xff0c;请看原文。 Euler’s Formula and Fourier Transform Posted byczxttkl October 7, 2018 Euler’s formula states that e i x cos ⁡ x i sin ⁡ x e^{ix} \cos{x} i …
阅读更多...
基于FPGA的SNN脉冲神经网络之LIF神经元verilog实现,包含testbench

基于FPGA的SNN脉冲神经网络之LIF神经元verilog实现,包含testbench

目录 1.算法运行效果图预览 2.算法运行软件版本 3.部分核心程序 4.算法理论概述 5.算法完整程序工程 1.算法运行效果图预览 (完整程序运行后无水印) 2.算法运行软件版本 vivado2019.2 3.部分核心程序 &#xff08;完整版代码包含详细中文注释和操作步骤视频&#xff0…
阅读更多...
Spring——自动装配

Spring——自动装配

假设一个场景&#xff1a; 一个人&#xff08;Person&#xff09;有一条狗&#xff08;Dog&#xff09;和一只猫(Cat)&#xff0c;狗和猫都会叫&#xff0c;狗叫是“汪汪”&#xff0c;猫叫是“喵喵”&#xff0c;同时人还有一个自己的名字。 将上述场景 抽象出三个实体类&…
阅读更多...
Unity学习之UGUI（二）

Unity学习之UGUI（二）

六、Image 1、作用 图像控件&#xff0c;用于显示Sprite的关键组件&#xff0c;除了背景图等大图&#xff0c;一般都是使用Image来显示UI中的图片元素 2、主要参数 &#xff08;1&#xff09;Image Type——Sliced&#xff08;拉伸&#xff09; Sliced-切片模式&#xff0c…
阅读更多...
最新文章

Copyright @ 2022~2023