springboot接入springai-openAi代理和智谱ai调用示例

ops/2024/10/11 13:29:37/

这里写自定义目录标题

    • 背景
    • 配置
    • 具体代码
    • 总结

背景

一说到调用openAI的api或者做一些小项目,大部分例子都是python或者node实现的,后来发现spring出了对于openai的支持框架,所以尝试用一用。这里是SpringAI的地址,有兴趣的可以去官网看:Spring AI

配置

首先声明,因为我是从0搭建的项目,所以我用的全部都是最新版,JDK22,springboot3.3.0,以下是对于spring AI的引用:

<properties><java.version>17</java.version><spring-ai.version>1.0.0-M1</spring-ai.version><spring-cloud.version>2023.0.0</spring-cloud.version></properties><dependencies><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId></dependency><dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-openai-spring-boot-starter</artifactId></dependency><dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-zhipuai-spring-boot-starter</artifactId></dependency>

因为众所周知的原因,国内调用openAI是掉不通的,所以就出现了众多的代理服务,所以代码中也不能去调用openAI的官方域名,要改成自己的配置,此处打广告:代理地址,可以通过我的推荐链接注册:smnet1,会赠送¥1000 token
如下:

spring:ai:openai:# 全局配置api-key: sk-this-is-key # 申请的api-keybase-url: https://api.smnet1.asia/ #代理地址,可以通过我的推荐链接注册:https://api.smnet1.asia/register?aff=xg61,会赠送¥1000 token# 嵌入API配置embedding:options:model: kimi  #我使用的代理支持多种模型,所以这里填写自己想用的模型就可以# 聊天API配置chat:#指定某一个API配置(覆盖全局配置)api-key: sk-this-is-key # 申请的api-keybase-url: https://api.smnet1.asia/ #openAi访问地址(不写默认)options:model: kimi #我使用的代理支持多种模型,所以这里填写自己想用的模型就可以zhipuai:api-key: this-is-zhipu-key # 申请的api-keybase-url: https://open.bigmodel.cn/api/paas/ #填写zhipu的访问地址chat:enabled: true

具体代码

配置搞好了,就到了实际使用的部分,这个真的开箱即用,如果没啥个性化需求的话,不需要另外的配置了,直接开调:


@RestController
@RequestMapping("/ai")
public class ChatController {@Autowiredprivate OpenAiChatModel chatClient;@GetMapping(value = "/easyChat", params = "message", produces = MediaType.TEXT_EVENT_STREAM_VALUE)public Flux<ServerSentEvent<String>> easyChat(@RequestParam String message) {System.out.println(1111);//Prompt prompt = new Prompt(message); 如果这里不想另外指定,直接用这个就可以Prompt prompt = new Prompt(message, OpenAiChatOptions.builder().withModel("kimi") //大模型用哪个.withTemperature(0.9f) //温度高,更发散,准确性降低,温度低,更保守,准确性高.build());System.out.println(chatClient.call(prompt)); //如果想直接拿到结果,用这个call方法就可以//下面是流类型的返回,一个字一个字的返回,如果你像我一样用kimi,kimi不支持这样,需要用return chatClient.stream(prompt).filter(Objects::nonNull).filter(chatResponse -> chatResponse.getResults() != null).flatMap(chatResponse -> Flux.fromIterable(chatResponse.getResults())).filter(Objects::nonNull).map(Generation::getOutput).filter(Objects::nonNull).filter(content -> Objects.nonNull(content.getContent())).map(AssistantMessage::getContent).filter(Objects::nonNull).map(content -> ServerSentEvent.builder(content).build()).doOnNext(System.out::println).concatWith(Flux.just(ServerSentEvent.builder("complete").build())); // Optionally, you can add a completion signal}
}

总结

现在想使用大模型真的门槛超低了,不管是直接使用还是api调用,怎么用这个问题解决起来还是很快的,不过我的问题大部分还是不知道用它做什么,我自己的能力不足以支撑我很好的使用它。


http://www.ppmy.cn/ops/50024.html

相关文章

m4s转mp3——B站缓存视频提取音频

前言 しかのこのこのここしたんたん&#xff08;鹿乃子乃子虎视眈眈&#xff09;非常之好&#xff0c;很适合当闹钟&#xff0c;于是缓存了视频&#xff0c;想提取音频为mp3 直接改后缀可乎&#xff1f;格式转换工具&#xff1f; 好久之前有记录过转MP4的&#xff1a; m4s转为…

Kafka之ISR机制的理解

文章目录 Kafka的基本概念什么是ISRISR的维护机制ISR的作用ISR相关配置参数同步过程示例代码总结 Kafka中的ISR&#xff08;In-Sync Replicas同步副本&#xff09;机制是确保数据高可用性和一致性的核心组件。 Kafka的基本概念 在Kafka中&#xff0c;数据被组织成主题&#xf…

单调栈(续)、由斐波那契数列讲述矩阵快速降幂技巧

在这里先接上一篇文章单调栈&#xff0c;这里还有单调栈的一道题 题目一&#xff08;单调栈续&#xff09; 给定一个数组arr&#xff0c; 返回所有子数组最小值的累加和 就是一个数组&#xff0c;有很多的子数组&#xff0c;每个数组肯定有一个最小值&#xff0c;要把所有子…

前端框架是什么

前端框架是预先编写好的JavaScript代码集合&#xff0c;旨在帮助开发者快速搭建Web应用程序的界面和交互逻辑。以下是一些常见的前端框架&#xff0c;按照字母顺序排列&#xff0c;并简要介绍其特点&#xff1a; Angular 由Google开发&#xff0c;原名AngularJS&#xff0c;后…

EVTOL垂直起降-变化就在空气中

混合动力垂直起降&#xff08;eVTOL&#xff09;飞行器有能力改变空中交通生态系统。了解航空运输面临的挑战以及公司如何利用新机遇。 介绍 一个世纪前&#xff0c;航空先驱格伦柯蒂斯&#xff08;Glenn Curtiss&#xff09;首次推出了自动飞机&#xff0c;这是一种带有可拆…

Spring Boot中使用logback出现LOG_PATH_IS_UNDEFINED文件夹

1.首先查看&#xff0c;application.properties 文件是否按格式编写 logging.pathmylogs logging.configclasspath:logback-spring.xml2.查看 logback-spring.xml <springProperty scope"context" name"LOG_HOME" source"logging.path"/> …

Covalent 承诺向 Consensys Builders Scale 提供 250 万美元资助

作为 Web3.0 领域主要的模块化数据基础设施层 Covalent Network&#xff08;CQT&#xff09;承诺向「Consensys Builders Scale 计划」提供 250 万美元的资助&#xff0c; 用于助力 Consensys 生态的发展。这一重大举措体现了 Covalent Network&#xff08;CQT&#xff09;的使…

Android 安装过程四 MSG_INSTALL消息的处理 安装之前的验证

由Android 安装过程三文章知道&#xff0c;MSG_INSTALL消息的处理是调用的handleInstall()&#xff0c;看一下它的主要相关代码&#xff1a; private void handleInstall() {…………if (params.isStaged) {mStagingManager.commitSession(mStagedSession);// TODO(b/136257624…