logstash 解析数组格式json数据:split, json

server/2024/11/26 1:57:02/

1,需求说明

===原始数据格式: 1条 (2*2)==》4个指标数据
[{"app":"aa","url":"www.1.com","metrics":[{"name":"cpu","value":11},{"name":"mem","value":1}]},
{"app":"bb","url":"www.2.com","metrics":[{"name":"cpu","value":12},{"name":"mem","value":2}]}]====> 希望得到的数据格式 =4个指标数据单独为一行
1{"name" => "cpu","app" => "aa","@timestamp" => 2024-11-22T05:57:29.671882657Z,"url" => "www.1.com","value" => 11
}
2{"name" => "mem","app" => "aa","@timestamp" => 2024-11-22T05:57:29.671882657Z,"url" => "www.1.com","value" => 1
}
3{"name" => "cpu","app" => "bb","@timestamp" => 2024-11-22T05:57:29.672029155Z,"url" => "www.2.com","value" => 12
}
4{"name" => "mem","app" => "bb","@timestamp" => 2024-11-22T05:57:29.672029155Z,"url" => "www.2.com","value" => 2
}

logstash__37">2,logstash 任务配置

[root@t1 test]# cat a.json
[{"app":"aa","url":"www.1.com","metrics":[{"name":"cpu","value":11},{"name":"mem","value":1}]},{"app":"bb","url":"www.2.com","metrics":[{"name":"cpu","value":12},{"name":"mem","value":2}]}][root@t1 test]# cat logstash-pipline.conf
input {#    kafka {#        bootstrap_servers => "localhost:9092"#        topics => ["your_topic_name"]#        codec => "json"#        add_field => {#            "source" => "kafka"#        }#    }file {path => "/root/test/a.json"  # 指定JSON文件的路径start_position => "beginning"  # 从文件的开头开始读取(可选,默认为"end",即从文件末尾开始读取新添加的内容)codec => "json"  # 指定文件编码格式为JSONsincedb_path => "/dev/null"  # 禁用sincedb文件,以便每次运行时都重新读取整个文件(可选,通常用于调试)}
}filter {if [message] { ##拆分message: 大数组json {source => "message"target => "data_array"}split {field => "data_array"remove_field => "message"}}split { ##拆分metrics: 小数组field => "metrics"}mutate {add_field => {"field1" => "%{metrics}"}}json {source => "field1"}mutate {remove_field => ["field1","metrics","log","host","@version"] #log,host,@version是系统添加的字段}
}output {stdout { codec => rubydebug }  # 将数据输出到控制台,并使用rubydebug编解码器进行格式化
}[root@t1 test]# /data01/logstash-8.7.1/bin/logstash -f /root/test/logstash.conf

http://www.ppmy.cn/server/144949.html

相关文章

我用豆包MarsCode IDE 做了一个 CSS 权重小组件

作者&#xff1a;夕水 查看效果 作为一个前端开发者&#xff0c;应该基本都会用 VSCode 来做开发&#xff0c;所以也应该见过如下这张图的效果: 以上悬浮面板分为2个部分展示内容。 <element class"hljs-attr">: 代表元素只有一个类名叫hljs-attr的类选择器&am…

Java基础-组件及事件处理(下)

(创作不易&#xff0c;感谢有你&#xff0c;你的支持&#xff0c;就是我前行的最大动力&#xff0c;如果看完对你有帮助&#xff0c;请留下您的足迹&#xff09; 目录 面板组件 说明 常见组件 JScrollPane常用构造方法 JScrollPane设置面板滚动策略的方法 JScrollPane滚…

selinux及防火墙

selinux说明 SELinux 是 Security-Enhanced Linux 的缩写&#xff0c;意思是安全强化的 linux 。 SELinux 主要由美国国家安全局&#xff08; NSA &#xff09;开发&#xff0c;当初开发的目的是为了避免资源的误用。 httpd进程标签&#xff08;/usr/share/nginx/html &#…

Java基础-组件及事件处理(中)

(创作不易&#xff0c;感谢有你&#xff0c;你的支持&#xff0c;就是我前行的最大动力&#xff0c;如果看完对你有帮助&#xff0c;请留下您的足迹&#xff09; 目录 BorderLayout布局管理器 说明&#xff1a; 示例&#xff1a; FlowLayout布局管理器 说明&#xff1a; …

数据结构哈希表-(开放地址法+二次探测法解决哈希冲突)(创建+删除+插入)+(C语言代码)

#include<stdio.h> #include<stdlib.h> #include<stdbool.h> #define M 20 #define NULLDEL -1 #define DELDEY -2typedef struct {int key;int count; }HashTable;//创建和插入 void Insert(HashTable ha[], int m, int p, int key) {int i, HO, HI;HO key…

ubuntu增加swap交换空间

论坛_开发者_技术论坛_鲲鹏_昇腾_华为 先关闭 &#xff0c;否则报错 fallocate: fallocate 失败: 文本文件忙 sudo swapoff /swapfile sudo fallocate -l 8G /swapfile sudo chmod 600 /swapfile sudo mkswap /swapfile sudo swapon /swapfile sudo vim /etc/fstab 添加…

【案例】泛微.齐业成助力北京中远大昌汽车实现数电票全流程管理

中远大昌统一发票共享平台上线三个多月以来&#xff0c;实现&#xff1a; 5000份 60000元 发票开具 成本节约 客户简介及需求分析 北京中远大昌汽车服务有限公司&#xff08;以下简称“中远大昌”&#xff09;成立于2002年&#xff0c;是中远海运集团所属香远&#xff08;北…

Java Database Connectivity (JDBC + Servlet)

https://blog.csdn.net/SuYuewu/article/details/143986880?sharetypeblogdetail&sharerId143986880&sharereferPC&sharesourceSuYuewu&spm1011.2480.3001.8118 Java Database Connectivity (JDBC)是一个Java API&#xff0c;用于与数据库进行连接和操作。通过…