Es elasticsearch 十八 Logstash 数据抽取工具

news/2024/10/28 1:15:29/

目录

基础

启动命令

简单配置文件 控制台输入输出打印

input从log文件获取数据-如分布式日志收集

监听端口

filter过滤器 Grok 正则捕获

Output 输出到es

文件输入 es输出  获取日志中字段 level


基础

从原数据 获取数据  发送到 某地方

Input{}  filter{} output{}

输入  过滤  输出

启动命令

D:\kf\ES-7.3.0\logstash-7.3.0\bin>logstash.bat -e 'input{stdin{}} output{stdout{}}'>logstash.bat -f ../config/test1.conf

简单配置文件 控制台输入输出打印

 

input{stdin{}
}filter{}output{stdout{codec=>rubydebug}
}

input从log文件获取数据-如分布式日志收集

input{file{path=>["D:/export/log/automatic-inspection-system/automatic-inspection-system_detail.log"]start_position=>"beginning"}
}filter{}output{stdout{codec=>rubydebug}
}

监听端口

input{tcp{port=>9090}
}filter{}output{stdout{codec=>rubydebug}
}

filter过滤器 Grok 正则捕获

%{语法:语义}

 

input{file{path=>["D:/export/log/automatic-inspection-system/automatic-inspection-system_detail.log"]start_position=>"beginning"}
}filter{grok{match=>["message","%{IPV4:ip}\ \[%{HTTPDATE:timestamp}\]"]}}output{stdout{codec=>rubydebug}
}

Output 输出到es

input{file{path=>["D:/export/log/automatic-inspection-system/automatic-inspection-system_detail.log"]start_position=>"beginning"}
}filter{grok{match=>["message","%{IPV4:ip}\ \[%{HTTPDATE:timestamp}\] "]}date{match=>["timestamp","yyyy-MM-dd HH:mm:ss"]}}output{stdout{codec=>rubydebug}elasticsearch{hosts=>["127.0.0.1:9200"]index=>"logstash-%{+YYYY.MM.dd}"}
}

文件输入 es输出  获取日志中字段 level

input{file{path=>["D:/export/log/automatic-inspection-system/automatic-inspection-system_detail.log"]start_position=>"beginning"}
}filter{grok {match => {"message" => "%{LOGLEVEL:loglevel} "}}}output{stdout{codec=>rubydebug}elasticsearch{hosts=>["127.0.0.1:9200"]index=>"logstash-%{+YYYY.MM.dd}"}
}

ok

持续更新

 


http://www.ppmy.cn/news/263887.html

相关文章

python爬虫之redis安装及使用示例

Redis是一个开源的、内存中的数据结构存储,用于缓存、消息队列和会话存储等。Redis的数据结构非常强大,例如支持Hash、String、Set和List等数据类型,而且能够使用Lua脚本进行批量操作,因此在Python爬虫工具中被广泛应用。在本文中…

23年测试岗,测试工程师从初级到中高级进阶,测试晋升之路...

目录:导读 前言一、Python编程入门到精通二、接口自动化项目实战三、Web自动化项目实战四、App自动化项目实战五、一线大厂简历六、测试开发DevOps体系七、常用自动化测试工具八、JMeter性能测试九、总结(尾部小惊喜) 前言 调查显示&#xf…

JMeter 常用的几种断言方法,你会几种呢?

在使用Jmeter进行性能测试或者接口自动化测试工作中,经常会用到的一个功能,就是断言。断言是在请求的返回层面增加一层判断机制。因为请求成功了,并不代表结果一定正确,因此需要判断机制提高测试准确性。本文 主要介绍3种常用的断…

DSP入门教程

DSP入门教程 1、TIDSP的选型 主要考虑处理速度、功耗、程序存储器和数据存储器的容量、片内的资源,如定时器的数量、I/O口数量、中断数量、DMA通道数等。DSP的主要供应商有TI,ADI,Motorola,Lucent和Zilog等,其中TI占有最大的市场…

嵌入式系统简介

嵌入式系统 嵌入式系统的核心是嵌入式微处理器。嵌入式微处理器一般就具备以下4个特点: 1)对实时多任务有很强的支持能力,能完成多任务并且有较短的中断响应时间,从而使内部的代码和实时内核心的执行时间减少到最低限度。 2&#…

【C语言】数据以及位运算

位和位运算 C语言中数据的表示方法各种数据类型可表示的数值范围位和CHAR_BITsizeof运算符整型的内部表示无符号整数的内部表示有符号整数的内部表示 位运算位运算符位与运算位或运算位异或运算位取反运算位左移运算符位右移运算符逻辑位移与算术位移 C语言中数据的表示方法 各…

DSP 入门教程

DSP 入门教程1、TI DSP 的选型主要考虑处理速度、功耗、程序存储器和数据存储器的容量、片内的资源,如定时器的数量、I/O 口数量、中断数量、DMA 通道数等。DSP 的主要供应商有TI,ADI,Motorola,Lucent和Zilog 等,其中TI 占有最大的…

集线设备

集线设备:集线器和交换机 集线器的英文称为“Hub”。“Hub”是“中心”的意思,集线器的主要功能是对接收到的信号进行再生放大,以扩大网络的传输距离,同时把所有节点集中在以它为中心的节点上。它工作于OSI(开放系统互联参考模型)…