Windows系统下将MySQL数据库表内的数据全量导入Elasticsearch

news/2024/9/22 16:18:22/

目录

下载安装Logstash

配置Logstash配置文件

运行配置文件

查看导入结果


使用Logstash将sql数据导入Elasticsearch

下载安装Logstash

官网地址   

选择Windows系统,需下载与安装的Elasticsearch相同版本的,下载完成后解压安装包。

配置Logstash配置文件

在config文件夹下新建一个名为 sql.conf 的文件,内容如下

input {stdin {
}jdbc {# 配置数据库信息jdbc_connection_string => "jdbc:mysql://localhost:3306/test?useUnicode=true&characterEncoding=UTF-8&serverTimezone=Asia/Shanghai"jdbc_driver_class => "com.mysql.cj.jdbc.Driver"jdbc_user => "root"jdbc_password => "root"jdbc_paging_enabled => "true"# jdbc_validate_connection => truejdbc_page_size => "50000"jdbc_default_timezone => "Asia/Shanghai"# mysql驱动所在位置jdbc_driver_library => "C:/mysql/mysql-connector-java/8.0.29/mysql-connector-java-8.0.29.jar"# 驱动地址也可不填,但是需要将驱动放进 logstash-core\lib\jars 文件夹下#sql执行语句statement => "SELECT * FROM test"}
}
output {elasticsearch {hosts => ["localhost:9200"]index => "test_index"document_id => "%{id}"}stdout {codec => json_lines}
}

文件分为input 和output两部分。input 部分从mysql读取数据,output部分向ES插入数据。

运行配置文件

bin\logstash -f config\sql.conf

命令行显示数据插入则表示成功。

查看导入结果

利用Kibana查看Elasticsearch中是否成功创建索引,以及索引中的文档数。


http://www.ppmy.cn/news/1446385.html

相关文章

利用大型语言模型提升个性化推荐的异构知识融合方法

在推荐系统中,分析和挖掘用户行为是至关重要的,尤其是在美团外卖这样的平台上,用户行为表现出多样性,包括不同的行为主体(如商家和产品)、内容(如曝光、点击和订单)和场景&#xff0…

【javaWeb项目】基于网页形式,通过浏览器访问的java应用程序,就称为javaweb程序

JavaWeb前端 第一章 1、javaWeb是什么 //基于网页形式,通过浏览器访问的java应用程序,就称为javaweb程序2、web程序的分类 //1、静态web程序特点:网页上的内容是固定不变的,不能动态加载,例如web前端//2、动态web程序…

Git和SVN有什么区别?

Git和SVN都是版本控制系统,它们都是用来帮助团队协同开发,管理代码版本的。但是,git和svn在实现方式,使用方法,特性等方面都存在一些差异 分布式 vs 集中式 这是二者之间最大的区别。Git是分布式版本控制系统&#xff…

数据库管理工具

Heidisql HeidiSQL是一款简洁的图形化的数据库管理工具,支持MySQL、SQLServer、PostgreSQL、SQLite等多种数据库。HeidiSQL提供了一个用于在数据库浏览之间切换 SQL 查询和标签带有语法突出显示的简单易用的界面。其它功能包括BLOB 和 MEMO 编辑,大型SQ…

美国站群服务器常见的操作系统选项

美国站群服务器常见的操作系统选项 美国站群服务器是一种灵活且可扩展的服务器解决方案,可以用于托管和管理多个网站和应用程序。在选择合适的美国站群服务器时,一个重要的考虑因素是其支持的操作系统。本文将介绍美国站群服务器常见的操作系统选项&…

【云原生】Docker 实践(三):使用 Dockerfile 文件构建镜像

Docker 实践(三):使用 Dockerfile 文件构建镜像 1.使用 Dockerfile 文件构建镜像2.Dockerfile 文件详解 1.使用 Dockerfile 文件构建镜像 Dockerfile 是一个文本文件,其中包含了一条条的指令,每一条指令都用于构建镜像…

创造未来知识管理新篇章:Ollama与AnythingLLM联手打造个人与企业的安全知识库!

一 Ollama 1.1 简介 Ollama是一个开源的大型语言模型服务工具,它帮助用户快速在本地运行大模型。通过简单的安装指令,用户可以执行一条命令就在本地运行开源大型语言模型,如Llama 2。Ollama极大地简化了在Docker容器内部署和管理LLM的过程,使得用户能够快速地在本地运行大…

计算机视觉(CV)简介

计算机视觉(CV)技术是一种在计算机中模拟人类视觉和图像处理能力的技术。它可以从图像和视频中提取有用的信息,并进行分析和理解。以下是计算机视觉技术的优势和挑战的一些例子: 优势: 高效处理大量图像数据&#xff…