logstash启动时默认连接本机节点elasticsearch问题

news/2024/10/30 23:22:19/

背景

今天在排查处理一个logstash读取kafka数据写入到hdfs的问题时候,发现在启动日志中多了个 logstash.outputs.elasticsearch 连接的地址是localhost:9200

部分日志如下:

logstash-elasticsearch-localhost-error

排查过程说明

1、首先确认 logstash 启动的配置文件中的 output 配置,确认只配置了 webhdfs


output {webhdfs {host => 'xxxx',port => 50075,standby_host => 'yyy',standby_port => 50075,path => 'xxxx',}
}

2、网上查询给出两种解决方案

第一种说在output配置中添加 stdout

output {stdout {codec => dots}
}

但是实际这边是封装的管理logstash的脚本,里面 标准输出是写入到 /dev/null 中去。

实际使用命令行参数也启动做了尝试,不起作用。

第二是说是加载了默认的 elasticsearch 插件,卸载该插件即可。

这里其实就有个疑问?为什么默认会只加载 elasticsearch输出源的插件,而不是其他呢?

但是实际卸载的时候,会提示依赖于 x-pack 插件

[root@xxxxxx logstash]# bash bin/logstash-plugin remove logstash-output-elasticsearch
Failed to remove "logstash-output-elasticsearch" because the following plugins or libraries depend on it:* x-pack

3、根据上面提示,联系到观察启动日志的时候,它有两个地方提示到了 x-pack

3.1) /_xpack/monitoring/_bulk

[2023-06-08T16:54:05,541][WARN ][logstash.outputs.elasticsearch] You are using a deprecated config setting 
... ...
:plugin=><LogStash::Outputs::ElasticSearch hosts=>[http://localhost:9200], bulk_path=>"/_xpack/monitoring/_bulk?system_id=logstash&system_api_version=2&interval=1s", .... ...}

3.2)、logstash.modules.scaffold 模块加载时

[2023-06-08T16:54:00,332][INFO ][logstash.modules.scaffold] Initializing module {:module_name=>"arcsight", :directory=>"/opt/app/logstash/vendor/bundle/jruby/2.3.0/gems/x-pack-6.2.2-java/modules/arcsight/configuration"}

通过上面的例子,知道应该是加载 x-pack, 但是x-pack有依赖于 elasticsearch ,所以在未配置 elasticsearch输出源的情况,就默认去找 localhost:9200 了

解决办法

就是在 logstash的配置中禁用 xpack monitor

# logstash.yml
xpack.monitoring.enabled: false

该配置文件如果在 logstsah/config 目录下没有,可以手动新增一个,和启动logstash -f指定的配置文件不冲突

附赠上面提到的 logstash 服务管理脚本


如果觉得文章对你有用,请不吝点赞 和 关注个人公众号(搜索 全栈运维 或者 DailyJobOps


http://www.ppmy.cn/news/281025.html

相关文章

炫酷的电子相册

HTML5、CSS3和jQuery这3大前端开发技术已经越来越成熟&#xff0c;而且这三者的紧密结合使得开发者可以有越来越丰富的想象空间。今天我们要来分享一些非常炫酷的HTML5相册动画应用&#xff0c;这些应用同时也结合了CSS3和jQuery&#xff0c;特别是第一个&#xff0c;非常具有创…

CGO 之 Dll调用

生成的dll库代码 // GoDll.cpp : 定义 DLL 应用程序的导出函数。 //#include "stdafx.h" #include <iostream> #include <cstdint>void __stdcall void_R0() {std::cout << __FUNCTION__ << std::endl; }void __stdcall void_R1(const cha…

还原卡大全

来源&#xff1a;http://www.dt0755.net/dt0755/show.asp?ArticleID209 【软件还原】 一键还原类 包括&#xff1a;F10一键还原&#xff0c;F11一键还原精灵&#xff0c;深度一键还原&#xff0c;一键网克&#xff0c;以及品牌机的一键还原&#xff08;复活&#xff0…

迅闪2007 正式版 Build 0703 发布(去广告、修正还原问题)

自《迅闪 2007 正式版》发布后&#xff0c;得到了广大迅闪用户的支持&#xff0c;同时也提出了合理的意见和建议&#xff0c;迅闪项目组根据用户的提议对迅闪的广告和还原的BUG进行了调整&#xff0c;现经迅闪三个交流群近百家网吧的测试和使用后&#xff0c;反应效果良好。《迅…

优漫动游:有人说UI设计培训四个月骗局,是真的吗?

在当前数字化时代&#xff0c;UI设计行业变得越来越受欢迎。越来越多的人开始对这个职业感兴趣&#xff0c;并参加相应的培训课程以提高自己的技能水平。然而&#xff0c;近期有关于UI设计培训四个月的负面评论&#xff0c;称其为骗局。那么&#xff0c;有人说UI设计培训四个月…

可终身使用的会员邮箱靓号,到底有多酷?

要说2020年什么最火&#xff0c;乘风破浪的姐姐&#xff1f;30而已&#xff1f;秋天的第一杯奶茶&#xff1f;还有一个定不能错过&#xff0c;一个终身使用的会员邮箱。靓号在手到底有多酷&#xff0c;低调的身份感&#xff0c;丝毫不亚于爱马仕在手、Chanel在身&#xff0c;回…

晨哥真有料丨女生眼中的高级感!

哈喽,大家好, 我是严厉不温柔、专说大实话的晨哥 我得问问有些人啊,为什么你明明有异性资源,还非得巴巴上赶着做舔狗? 为什么你明明挺优秀啊,还非上赶着伤春悲秋。 说你看看其他那些歌,身边都是倒霉蛋、铁憨憨的那些小老弟们,他可羡慕死你了 他要有你这条件…

超简单:很火的3D立体动态相册,送给心爱的那个人

1.首先&#xff0c;我们一共需要三个文件&#xff0c;目录关系如下所示。先建index.html文件吧&#xff0c;电脑上先创建一个.txt文件&#xff0c;在里面加入代码后保存&#xff0c;重命名为index.html(记得把原来的.txt后缀覆盖&#xff09;。html我用的谷歌浏览器。 index.h…