Flume的安装和使用

news/2024/11/13 16:29:11/

安装Flume

1.1访问Flume的官网(http://flume.apache.org/download.html),下载Flume安装apache-flume-1.9.0-bin.tar.gz。或者下载我的百度网盘资源。把安装文件解压缩到windows操作“D:\”目录下,然后执行如下命令测试是否安装成功:

>e:  切换盘符

> cd E:\bigdataCol\apache-flume-1.9.0-bin\bin 切换到flume的bin目录

> flume-ng version  执行该命令测试

如果启动中提示PathNotFount:  java.exe,则需要配置java的环境变量,JAVA_HOME=java的安装路径,在Path中配置%JAVA_HOME%\bin。注意:java的安装路径中尽量不要有空格。

2.采集NetCat数据显示到控制台

(1)在windows中打开telnet服务

(2)在Flume安装目录的conf子目录下,新建一个名称为example.conf的配置文件,该文件的内容如下:

# 设置Agent上的各个组件名称
a1.sources = r1
a1.sinks = k1
a1.channels = c1# 配置Source
a1.sources.r1.type = netcat
a1.sources.r1.bind = localhost
a1.sources.r1.port = 44444# 配置Sink
a1.sinks.k1.type = logger 
# 配置Channel
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100# 把Source和Sink绑定到Channel上
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1

(3)新建一个cmd窗口(称为“Flume窗口”),并执行如下命令:

> cd E:\bigdataCol\apache-flume-1.9.0-bin

> .\bin\flume-ng agent --conf .\conf --conf-file .\conf\example.conf --name  a1  -property  flume.root.logger=INFO,console

(4)再新建(win+R)一个cmd窗口,并执行如下命令:

> telnet localhost 44444

3.采集目录下的数据显示到控制台

Windows系统中有一个目录“E:\bigdataCol\mylogs”,这个目录下不断有新的文件生成,使用Flume采集这个目录下的文件,并把文件内容显示到控制台(屏幕)。

(1)在Flume安装目录的conf子目录下,新建一个名称为example1.conf的配置文件,该文件的内容如下:

#定义三大组件名称
a1.sources = r1
a1.channels = c1
a1.sinks = k1#定义Source
a1.sources.r1.type = spooldir
a1.sources.r1.spoolDir =E:/bigdataCol/mylogs/#定义Channel
a1.channels.c1.type = memory
a1.channels.c1.capacity = 10000
a1.channels.c1.transactionCapacity = 100#定义Sink
a1.sinks.k1.type = logger#组装Source、Channel、Sink
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1

(2)若存在,则清空“E:\bigataCol\mylogs”目录(即删除该目录下的所有内容),然后新建一个cmd窗口(称为“Flume窗口”),并执行如下命令:

cd E:\bigdataCol\apache-flume-1.9.0-bin

.\bin\flume-ng agent --conf .\conf --conf-file .\conf\example1.conf --name  a1  -property  flume.root.logger=INFO,console


http://www.ppmy.cn/news/156917.html

相关文章

网络编程知识点总结(2)

网络编程就是编写程序使两台联网的计算机相互交换数据。 那么,这两台计算机之间用什么传输数据呢?首先你肯定先需要物理连接嘛。 在此基础上,只需要考虑如何编写数据传输程序。看似很麻烦,但实际上这点不用愁,因为操…

位操作符的应用

目录 位操作符的概念: 一、&(按位与):两个整数的补码对应的二进制位有0则为0,两个同时为1才为1,得到的数仍为补码。 二、|(按位或):两个整数的补码对应的二进制位…

SpringMVC重点知识

目录 第一章 SpringMVC概念 0.引言 1.MVC 2.SpringMVC 3.SpringMVC的特点 4.JavaSE、JavaEE、javaME的区别 第二章 Spring MVC的使用 1.SpringMVC的配置 2.web.xml配置 3. 创建当前的请求控制器 4. 创建SpringMVC的配置文件 5.实现对首页index.xml的访问 6.Reques…

iPhone苹果手机怎么定位追踪另外一个苹果iPhone手机的位置?

利用iPhone苹果手机的查找功能可以添加另外一部苹果iPhone手机,并追踪另外一部苹果手机的位置,而且可以不让另外一部苹果手机查看本机位置; iPhone苹果手机怎么定位追踪另外一个苹果iPhone手机的位置? 1、在iPhone苹果手机上找到…

现在二手苹果13和苹果13pro都是什么价格?

二手价格可以参考图中价格(数据来源:换换二手交易平台)

苹果13适配充电宝推荐,苹果官方推荐的充电宝

现在我们身边的数码产品越来越多,不仅仅是手机要充电,比如蓝牙耳机或者平板等等,充电宝的重要性越发凸显。现在很多数码产品也开始支持无线充电了,无线充电宝更是受到广大数码用户的热爱。眼下苹果13就要发布了,在这里…

Android11不如,iPhone11与同价位安卓机对比,优劣好坏一比便知

虽然说苹果手机采用独立的处理器和系统,严格意义上说,它与任何安卓手机都没有精准的可比性,但是对于换机纠结的小伙伴们来说,总要知道大概的优劣好坏,如此才能做到心中有数。就拿今年苹果比较火热的iPhone 11来说&…

苹果的万元机iPhone14还未上市,它已瞄准国产手机的三千元市场

苹果的iPhone14还要一个多星期才发布,但是业界已传出它已筹划明年的iPhoneSE4了,瞄准的自然国产手机占有优势的3000元价位段,此举或许会让国产手机品牌感受到压力。 据悉苹果的iPhoneSE4在外观方面将做出重大改变,改变就是屏幕变大…