使用Logstash 将Mysql的数据导入ElasticSearch中

ops/2025/1/12 22:38:44/

目录

1 .Logstash官网

2. 准备工作

3.创建配置文件

4. 启动

5. 版本不一致导致的无法启动

6.目录写错说明


1 .Logstash官网

Logstash:收集、解析和转换日志 | Elasticicon-default.png?t=O83Ahttps://www.elastic.co/cn/logstash

首先在官网上选择下载

2. 准备工作

Mysql的jar包下载地址:

MySQL :: 下载 MySQL Connector/J (存档版本)icon-default.png?t=O83Ahttps://downloads.mysql.com/archives/c-j/只要这个即可

(1)将Mysql中的jar包,移至到 logstash-core\lib\jars中

(2)进入logstach的bin目录下,创建文件testlogstach.conf,编辑文件

3.创建配置文件

在logstach的bin目录下 创建一个自定义名的配置文件

例如:mysql_to_es.conf

input {jdbc {jdbc_driver_library => "D:/Logstach/logstash-7.8.0/logstash-core/lib/jars/mysql-connector-java-8.0.11.jar"jdbc_driver_class => "com.mysql.cj.jdbc.Driver"jdbc_connection_string => "jdbc:mysql://localhost:3306/holy_flower?useUnicode=true&characterEncoding=utf-8&useSSL=false&serverTimezone=Asia/Shanghai"jdbc_user => "root"jdbc_password => "1234"jdbc_validate_connection => truejdbc_paging_enabled => truejdbc_page_size => 100schedule => "* * * * *"statement => "SELECT id,flower_name,type,growth_habit,description,is_deleted,create_time,update_time FROM tb_flower"use_column_value => truetracking_column => "update_time"last_run_metadata_path => "D:/Logstach/logstash-7.8.0/data/last_time_flower.txt"}
}output {elasticsearch {hosts => ["localhost:9200"]index => tb_flower"document_id => "%{id}"}stdout {codec => json_lines}
}

4. 启动

logstash -f mysql_to_es.conf

5. 版本不一致导致的无法启动

选择下载跟es一致的版本号

Past Releases of Elastic Stack Software | Elasticicon-default.png?t=O83Ahttps://www.elastic.co/downloads/past-releases#logstash

6.目录写错说明

注意:应该是logstash,而不是logstach


http://www.ppmy.cn/ops/149571.html

相关文章

设计一个利用事务特性可以阻塞线程的排他锁,并且通过注解和 AOP 来实现

设计思路: 利用数据库表记录锁标识:通过唯一标识符(如方法名 参数),我们可以在数据库中插入一条记录,表示当前方法正在执行。这条记录需要记录插入时间。 注解:通过注解标识哪些方法需要加锁&a…

PyTorch reshape函数介绍

torch.reshape 是 PyTorch 用于改变张量形状的函数之一。它不会改变张量的数据,而是重新组织其元素以适应新的形状。 reshape 的使用 torch.reshape(input, shape) → Tensorinput:输入张量。shape:新形状,使用整数或 -1 指定各维…

手机的ip地址是根据电话卡归属地定吗

在智能手机普及的今天,IP地址作为我们连接互联网的“门牌号”,其来源和确定方式常常引发用户的好奇。特别是关于手机IP地址是否与电话卡的归属地直接相关,这一话题更是众说纷纭。本文将深入探讨这一问题,为您揭开手机IP地址与电话…

【Unity插件】解决移动端UI安全区问题 - Safe Area Helper

在移动端设计界面时,必须要考虑的就是UI的安全区。 Unity本身也提供了Safearea的API。 但在asset store时已经有人提供了免费的插件(Safe Area Helper),我们可以直接使用。 插件链接: https://assetstore.unity.com/p…

Linux 虚拟机与windows主机之间的文件传输--设置共享文件夹方式

Linux 虚拟机与windows主机之间的文件传输 设置共享文件夹方式 在虚拟机中打开终端查看是否已经新建完成,到文件夹中找到它看一下,这个位置就能存储东西啦

【物联网原理与运用】知识点总结(上)

目录 名词解释汇总 第一章 物联网概述 1.1物联网的基本概念及演进 1.2 物联网的内涵 1.3 物联网的特性——泛在性 1.4 物联网的基本特征与属性(五大功能域) 1.5 物联网的体系结构 1.6 物联网的关键技术 1.7 物联网的应用领域 第二章 感知与识别技术 2.1 …

【C语言】_类型重命名typedef关键字

目录 1. 从复杂类型理解类型重命名的必要性 1.1 示例1 1.2 示例2 2. typedef 用法 2.1 简单类型重命名 2.2 复杂指针类型重命名 2.2.1 数组指针类型 2.2.2 函数指针类型 3. 使用typedef简化复杂类型的定义 4. #define与typedef 1. 从复杂类型理解类型重命名的必要性 …

阿里云ios镜像源

阿里云镜像源:阿里巴巴开源镜像站-OPSX镜像站-阿里云开发者社区 下载centos7