Flume系列:Flume数据监控Ganglia

news/2024/11/7 16:39:47/

目录

Apache Hadoop生态-目录汇总-持续更新

安装说明

1)安装 ganglia

2)在 worker213 修改配置文件

3)在 所有服务器 修改配置文件/etc/ganglia/gmond.conf

4)启动 ganglia

5)打开网页浏览 ganglia 页面

6)操作 Flume 测试监控


Apache Hadoop生态-目录汇总-持续更新

系统环境:centos7

Java环境:Java8

安装说明

Ganglia 由 gmond、gmetad 和 gweb 三部分组成

gmond(Ganglia Monitoring Daemon)是一种轻量级服务,安装在每台需要收集指标数据的节点主机上。使用 gmond,你可以很容易收集很多系统指标数据,如 CPU、内存、磁盘、网络和活跃进程的数据等。

gmetad(Ganglia Meta Daemon)整合所有信息,并将其以 RRD 格式存储至磁盘的服务。

gweb(Ganglia Web)Ganglia 可视化工具,gweb 是一种利用浏览器显示 gmetad 所存储数据的 PHP 前端。在 Web 界面中以图表方式展现集群的运行状态下收集的多种不同指标数据。

1)安装 ganglia

(1)规划

worker213: web gmetad gmod
worker214: gmod
worker215: gmod

(2)所有服务器分别安装 epel-release

sudo yum -y install epel-release

 (3)worker213安装

sudo yum -y install ganglia-gmetad ganglia-web ganglia-gmond

(4)在 worker214 和 worker215安装

sudo yum -y install ganglia-gmond

2)在 worker213 修改配置文件

# 1:ganglia.conf
sudo vim /etc/httpd/conf.d/ganglia.conf<Location /ganglia>
# Require local
#  允许所有设备访问
Require all granted   
# Require ip 10.1.2.3
# Require host example.org
</Location># 2
sudo vim /etc/ganglia/gmetad.conf
修改
data_source "my cluster" worker213# 3
sudo vim /etc/selinux/config
修改为:
SELINUX=disabled
worker213服务器执行:sudo setenforce 0

3)在 所有服务器 修改配置文件/etc/ganglia/gmond.conf

sudo vim /etc/ganglia/gmond.confudp_send_channel {# mcast_join = 239.2.11.71    --注释掉# 数据发送给 worker213host = worker213   -- 添加port = 8649                ttl = 1
}udp_recv_channel {# mcast_join = 239.2.11.71   --注释掉port = 8649# 接收来自任意连接的数据bind = 0.0.0.0      --修改retry_bind = true# buffer = 10485760
}

4)启动 ganglia

(1)在所有服务器上启动

sudo systemctl start gmond

(2)在 worker213 启动

sudo systemctl start httpd
sudo systemctl start gmetad
sudo systemctl start gmondsudo systemctl stop httpd
sudo systemctl stop gmetad
sudo systemctl stop gmond

5)打开网页浏览 ganglia 页面

http://worker213/ganglia

尖叫提示:如果完成以上操作依然出现权限不足错误,请修改/var/lib/ganglia 目录的权限:

worker213执行:
sudo chmod -R 777 /var/lib/ganglia

6)操作 Flume 测试监控

1)启动 Flume 任务

flume]$ bin/flume-ng agent \
-c conf/ \
-n a1 \
-f job/flume-netcat-logger.conf \
-Dflume.root.logger=INFO,console \-Dflume.monitoring.type=ganglia \
-Dflume.monitoring.hosts=worker213:8649

2)发送数据观察ganglia监控

 如何查看有没有丢数据?

        put成功的= sink成功的+ channelsize

        尝试 大于 成功, 可能是资源不够了, 加内存配额

         修改flume-env.sh

 


http://www.ppmy.cn/news/99923.html

相关文章

linux 条件变量 pthread_cond_signal

专栏内容&#xff1a;linux下并发编程个人主页&#xff1a;我的主页座右铭&#xff1a;天行健&#xff0c;君子以自强不息&#xff1b;地势坤&#xff0c;君子以厚德载物&#xff0e; 目录 前言 简介 应用场景 与互斥量/信号量的区别 接口介绍 变量定义 初始化 等待被唤…

2023上半年软考记录

关注软考的小朋友们&#xff0c;应该都知道每年的5月份是软考的时间&#xff0c;鄙人有幸参与了这次的考试&#xff0c;在此记录一下。主要是考试相关的内容&#xff0c;包含使用的笔、答题卡等。 一、考前准备 首先&#xff0c;就不多说了&#xff0c;还是要学一下的&#x…

SpringBoot整合EasyExcel

SpringBoot整合EasyExcel 1.导入依赖 添加maven依赖, 依赖的poi最低版本3.17 <dependency><groupId>com.alibaba</groupId><artifactId>easyexcel</artifactId><version>2.2.3</version> </dependency>2.创建实体类 NoArg…

LwIP系列(1):C语言宏定义相关基础知识(##、include 文件、宏函数、预编译)

前言 对于嵌入式物联网技术来说&#xff0c;TCP/IP 协议几乎是不能绕过的&#xff0c;常见socket、tcp、udp、mqtt、coap、modbus-tcp、mdns、广播、组播等等&#xff0c;均是基于TCP/IP协议实现&#xff0c;无处不在。而目前在嵌入式领域&#xff0c;使用最多的TCP/IP协议栈就…

C++ 中基础的几种变量作用域,类作用域(C++复习向p5)

文章目录 三种变量变量作用域初始化变量类作用域 三种变量 局部变量&#xff1a;函数/代码块中的变量形式参数&#xff1a;函数参数中定义的变量&#xff0c;在函数体中有效全局变量&#xff1a;所有函数外部声明的变量 变量作用域 局部作用域&#xff1a;局部变量在函数执行…

C++程序设计基础【一】

C程序设计基础【一】 一、一个程序的开发步骤1.编辑程序2.编译程序3.链接程序4.执行程序5.测试 2.基础代码解读1.预处理指令(#include <iostream>)2.块注释(/* */)3.行注释(//)4.using namespace std5.int main()6.{}7.std::cin、std::cout、std::endl8.return 0 二、变量…

哈希表(Hash Table)原理和代码

哈希表&#xff08;Hash Table&#xff09;是一种高效的数据结构&#xff0c;用于存储键-值对&#xff08;Key-Value pairs&#xff09;。它通过将键映射到数组的索引位置来实现快速的插入、查找和删除操作。哈希表的核心原理是使用哈希函数将键转换为对应的数组索引&#xff0…

数据分析之Pandas--数据检索

数据分析之Pandas&#xff08;03&#xff09;--数据检索 pandas的数据检索功能是其最基础也是最重要的功能之一。 pandas中最常用的几种数据过滤方式如下&#xff1a; 1. 行列过滤&#xff1a;选取指定的行或者列 2. 条件过滤&#xff1a;对列的数据设置过滤条件 3. 函数过…