Spark JobHistory Server清理日志功能未生效,导致频繁挂掉

news/2024/9/29 18:32:51/

查看日志清理功能是打开的:spark.history.fs.cleaner.enabled = true,
spark.history.fs.cleaner.interval 和spark.history.fs.cleaner.maxAge使用的是默认值。
但是/user/spark/applicationHistory/ 目录下日志一直未不清理!存储的日志数量超过所允许的最大值。
缩短maxAge时间,然后重启了服务器,发现日志确实被清理了些。
但是还有大量未被清理的,有些运行时失败的spark job的日志没有被清理掉!
例如/user/spark/applicationHistory/application_XXX.inprogress
手动清理掉这些文件,spark Historyserver恢复正常!


http://www.ppmy.cn/news/1532036.html

相关文章

报数游戏 - 华为OD统一考试(E卷)

2024华为OD机试(E卷D卷C卷)最新题库【超值优惠】Java/Python/C合集 题目描述 100个人围成一圈,每个人有一个编号,编号从1开始到100。他们从1开始依次报数,报到为M的人自动退出圈圈,然后下一个人接着从1开始…

基于RustDesk自建远程桌面服务

最近向日葵越来越难用了,官方好像限制了免费用户的带宽,但是限制的有点过头了,卡的基本没法用。 向日葵的平替todesk对于免费用户又有时长限制,对于经常用的小伙伴不大友好。 咱也不是说非得白嫖,但是向日葵和todesk这…

Java工具--stream流

Java工具--stream流 过滤(filter)统计求最大最小和均值求和(sum)过滤后,对数据进行统计 遍历(map)规约(reduce)排序(sorted)去重(dist…

通信工程学习:什么是MIMO多输入多输出技术

MIMO:多输入多输出技术 MIMO(Multiple-Input Multiple-Output)多输入多输出技术是一种在无线通信中广泛应用的技术,它通过利用多个天线进行数据传输和接收,可以显著提高无线通信系统的性能和容量。以下是对MIMO技术的详细解释: 一、定义与原理 MIMO技术…

大模型培训讲师叶梓:Llama Factory 微调模型实战分享提纲

LLaMA-Factory ——一个高效、易用的大模型训练与微调平台。它支持多种预训练模型,并且提供了丰富的训练算法,包括增量预训练、多模态指令监督微调、奖励模型训练等。 LLaMA-Factory的优势在于其简单易用的界面和强大的功能。用户可以在不编写任何代码的…

数组组成的最小数字 - 华为OD统一考试(E卷)

2024华为OD机试(E卷+D卷+C卷)最新题库【超值优惠】Java/Python/C++合集 题目描述 给定一个整型数组,请从该数组中选择3个元素组成最小数字并输出(如果数组长度小于3,则选择数组中所有元素来组成最小数字)。 输入描述 一行用半角逗号分割的字符串记录的整型数组,0<数…

golang学习笔记32——哪些是用golang实现的热门框架和工具

推荐学习文档 golang应用级os框架&#xff0c;欢迎stargolang应用级os框架使用案例&#xff0c;欢迎star案例&#xff1a;基于golang开发的一款超有个性的旅游计划app经历golang实战大纲golang优秀开发常用开源库汇总想学习更多golang知识&#xff0c;这里有免费的golang学习笔…

3D线上会议:开启沉浸式交流的新时代

在数字化转型的浪潮中&#xff0c;传统的线上会议模式正经历一场深刻的变革&#xff0c;由3D线上会议技术引领的新风尚正席卷而来。这一创新形式&#xff0c;通过虚拟化身与3D互动环境的无缝融合&#xff0c;为远程协作带来了前所未有的沉浸感与互动体验&#xff0c;彻底重塑了…