springboot+redis+mysql+quartz-使用pipeline+lua技术将缓存数据定时更新到数据库

news/2024/11/7 7:37:21/

一、重点

代码讲解:7.3点赞功能-定时持久化到数据库-Java程序整合pipeline+lua_哔哩哔哩_bilibili

https://www.bilibili.com/video/BV1Lg4y1w7U9

代码:

blogLike_schedule/like08 · xin麒/XinQiUtilsOrDemo - 码云 - 开源中国 (gitee.com)

https://gitee.com/flowers-bloom-is-the-sea/XinQiUtilsOrDemo/tree/master/blogLike_schedule/like08

数据库表:
blogLike_schedule · xin麒/XinQiUtilsOrDemo - 码云 - 开源中国 (gitee.com)

二、实现过程:

这里主要是开2个定时任务,一个是平时的缓存数据持久化操作就是要pipeline技术;

另一个时间就使用lua脚本向redis缓存获取缓存数据再更新到数据库。

1、对lua脚本任务执行:

@Slf4j
public class LikeTaskAtNight extends QuartzJobBean {@AutowiredBlogService blogService;@AutowiredStringRedisTemplate stringRedisTemplate;/*** 用来从redis中的zset中获取点赞缓存的键值对,间隔时间存入mysql* 这里就夜间执行吧,因为lua会阻塞redis其他操作,选择夜间流量低时进行执行* @param context* @throws JobExecutionException*/@Overrideprotected void executeInternal(JobExecutionContext context) throws JobExecutionException {int hour = LocalTime.now().getHour();
//        int minute = LocalTime.now().getMinute();if (hour == 3){// 要执行的内容就写在这个函数中
//        blogService.updateAllLikeListToDatabase();//这个没使用pipeline技术,效果应该是明显低于updateAllLikeListToDatabaseByPipeline1log.debug("LikeTaskAtNight - time is {}",System.currentTimeMillis());
//        blogService.updateAllLikeListToDatabaseByPipeline1();//这个使用了pipeline技术,但是还有优化空间,比如书对sql的更新可以说批量更新blogService.updateAllLikeListToDatabaseByLua();//这个使用了lua技术,但是还有优化空间,比如书对sql的更新可以说批量更新}}}

配置文件:

import com.xinqi.task.LikeTask;
import com.xinqi.task.LikeTaskAtNight;
import org.quartz.*;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
@Configuration
public class QuartzConfig {@Beanpublic JobDetail quartzDetail_1(){// withIdentity指定的是这个job的idreturn JobBuilder.newJob(LikeTask.class).withIdentity("LIKE_TASK_IDENTITY").storeDurably().build();}@Beanpublic Trigger quartzTrigger_1(){ //触发器SimpleScheduleBuilder scheduleBuilder = SimpleScheduleBuilder.simpleSchedule().withIntervalInSeconds(20)  //设置时间周期单位秒
//                .withIntervalInHours(2)  //两个小时执行一次.repeatForever();return TriggerBuilder.newTrigger().forJob(quartzDetail_1())
//                .forJob(quartzDetail_2()).withIdentity("LikeTask_TRENDS_TRIGGER").withSchedule(scheduleBuilder).build();}@Beanpublic JobDetail quartzDetail_LikeTaskAtNight(){// withIdentity指定的是这个job的idreturn JobBuilder.newJob(LikeTaskAtNight.class).withIdentity("LikeTaskAtNight_IDENTITY").storeDurably().build();}@Beanpublic Trigger quartzTrigger_2(){ //触发器SimpleScheduleBuilder scheduleBuilder = SimpleScheduleBuilder.simpleSchedule()
//                .withIntervalInSeconds(35)  //设置时间周期单位秒.withIntervalInHours(1)  //两个小时执行一次.repeatForever();return TriggerBuilder.newTrigger().forJob(quartzDetail_LikeTaskAtNight())
//                .forJob(quartzDetail_2()).withIdentity("LikeTaskAtNight_USER_TRENDS_TRIGGER").withSchedule(scheduleBuilder).build();}}

updateAllLikeListToDatabaseByLua执行的内容:

@Override
public void updateAllLikeListToDatabaseByLua() {String prefix = "BLOG_LIKED_KEY";Map<Long, Map<String, String>> maps = getMapsByLuaUseJedis(prefix);if (maps == null || maps.size() == 0) return;for (Map.Entry<Long, Map<String, String>> entry : maps.entrySet()) {Long blogId = entry.getKey();Map<String, String> likeList = entry.getValue();updateLikeListByBlogId(blogId, likeList);}
}
public Map<Long, Map<String, String>> getMapsByLuaUseJedis(String prefix) {Map<Long, Map<String, String>> maps = null;String script = "local prefix = KEYS[1]; \n" +"local redisKeys = redis.call('keys',prefix ..'*');\n" +"\n" +"if(not redisKeys) \n" +"    then    \n" +"    \treturn (nil);\n" +"end;\n" +"\n" +"local maps = {};\n" +"\n" +"for i, v in pairs(redisKeys) do\n" +"    local blogId = string.sub(v,string.len(prefix) + 1,string.len(v));\n" +"    local zset = redis.call('zrange',v,'0','-1','withscores');\n" +"    table.insert(maps,blogId);\n" +"    table.insert(maps,zset);    \n" +"end;\n" +"\n" +"return maps;";List result = null;result = getResultByLuaUseJedis(script, prefix);maps = parseLuaResultToMaps(result);return maps;}
    private List getResultByLuaUseJedis(String script, String prefix) {Jedis jedis = null;List result = null;int failTime = 0;//执行失败的次数boolean flag = true;//如果为true就说明报错while (flag && failTime < 2) {try {jedis = jedisPool.getResource();result = (List) jedis.eval(script, Arrays.asList(prefix), new ArrayList<>());//https://blog.csdn.net/EnjoyFight/article/details/127808971System.out.println("result is " + result);//result is [1, [1, 1688218686914]]
/*        log.debug("result is ",result);//不知道为什么无法显示log.debug("result is null?{}",result==null);String s = JSONUtil.toJsonStr(result);log.debug("s is ",s);log.debug("s is null? {}",s==null);log.debug("s .len is  {}",s.length());*/flag = false;} catch (Exception e) {e.printStackTrace();failTime++;} finally {if (jedis != null) jedis.close();}}return result;}

2、pipeline技术定时任务

看这篇文章吧:(108条消息) springboot+redis+mysql+quartz-通过Java操作jedis使用pipeline获取缓存数据定时更新数据库_xin麒的博客-CSDN博客

三、其他

本文章的具体内容基本上都是在视频里面了,就不多描述了。

其他类似的文章:

(108条消息) springboot+redis+mysql+quartz-通过Java操作redis的KEYS*命令获取缓存数据定时更新数据库_xin麒的博客-CSDN博客

(108条消息) springboot+redis+mysql+quartz-通过Java操作jedis定时使用lua脚本获取缓存数据并更新数据库_xin麒的博客-CSDN博客

(108条消息) lua脚本获取table类型-Java使用lua脚本操作redis获取zset元素的集合_xin麒的博客-CSDN博客

(108条消息) springboot+redis+mysql+quartz-通过Java操作jedis使用pipeline获取缓存数据定时更新数据库_xin麒的博客-CSDN博客

(108条消息) springboot+redis+mysql+quartz-通过Java操作jedis的scan命令获取缓存数据定时更新数据库_xin麒的博客-CSDN博客


http://www.ppmy.cn/news/806796.html

相关文章

常用的公共 DNS 服务器 IP 地址

公共 DNS 服务器 IP 地址 名称DNS 服务器 IP 地址阿里 AliDNS223.5.5.5223.6.6.6CNNIC SDNS1.2.4.8210.2.4.8114 DNS114.114.114.114114.114.115.115oneDNS112.124.47.27114.215.126.16DNS 派 电信/移动/铁通101.226.4.6218.30.118.6DNS 派 联通123.125.81.6140.207.198.6Goog…

dns协议

目录 简介&#xff1a;域名的构成DNS记录类型介绍命令:nslookup国内DNS公共服务器 简介&#xff1a; DNS (Domain Name System)域名系统是一种用于TCP/IP应用程序的分布式数据库&#xff0c;它提供域名和IP地址之间的转换及有关电子邮件的选路信息 IP地址是面向主机的&#xff…

Linux--进程

什么叫做进程&#xff1f; 程序加载到内存就叫进程&#xff08;看不懂是吧&#xff0c;看下面更详细一些&#xff09; 进程对应的代码和数据进程对应的PCB结构体

丹东dns服务器位置,各省主要DNS服务器对照表

Jquery中文网 > 服务器技术 > DNS服务器 > 正文 各省主要DNS服务器对照表 各省主要DNS服务器对照表 发布时间&#xff1a;2014-07-20 编辑&#xff1a;www.jquerycn.cn 各省主要DNS服务器对照表&#xff0c;很实用哦。 省 主服务器 辅服务器 北京 202.96.199…

全国运营商DNS服务器IPv4IPv6地址记录

公共DNS 百度 IPv4 DNS IPv6 DNS 180.76.76.76 2400:da00::6666 阿里 …

2020 dns排名_2020年新版全球/全国各地ISP的DNS服务器地址表

【第一】国内外知名的公共DNS服务器(排列不分先后): 腾讯公共DNS(119.29.29.29、182.254.116.116) 阿里公共DNS(223.5.5.5、223.6.6.6) 百度公共DNS(180.76.76.76) 360安全DNS(123.125.81.6) Google(8.8.8.8、8.8.4.4) 114DNS(114.114.114.114、114.114.115.115) OpenDNS(208.…

DNS 域名系统

前言 DNS(Domain Name System&#xff0c;域名系统)&#xff0c;因特网上作为域名和IP地址相互映射的一个分布式数据库&#xff0c;能够使用户更方便的访问互联网&#xff0c;而不用去记住能够被机器直接读取的IP数串。通过主机名&#xff0c;最终得到该主机名对应的IP地址的过…

广东移动宽带dns服务器未响应,宽带连不上 dns 无响应

满意答案 inezvolpe 2016.03.05 采纳率&#xff1a;57% 等级&#xff1a;13 已帮助&#xff1a;8193人 dns故障问题&#xff0c;可以先更改dns服务器地址&#xff0c;如果不行就只能问网络运行商了 更改dns方法&#xff0c; 1.右键单击&#xff0c;桌面右下角网络图标&#…