降本增效 - VGF 构建轻量高性能日志管理平台

news/2025/2/19 16:33:21/

VFG 技术架构

Filebeat 接收Syslog ，并进行日志分段，VictoriaLogs 持久化存储日志 ，Grafana 可视化、数据查询、告警、数据导出。

为什么要用VictoriaLogs ？

  • 与Elasticsearch /Grafana Loki相比几十倍的CPU/内存/存储资源占用的差距，能极大的节省硬件资源。

  • VGF可以实现ELK的Web查询、日志压缩存储、syslog 日志接收。

简介

  • VictoriaLogs 兼容支持多种数据输入软件，Filebeat 也支持多种数据输入。

  • VictoriaLogs 的Web UI很简陋，所以要用Grafana。

  • VictoriaLogs 是HTTP访问是无认证的，需要套其他软件来实现。（默认端口9428）

  • VictoriaLogs 的数据过期时间是全局的，所以如果有需求，只能部署多个实例。

  • Filebeat 相对Logstash 性能更好，也比VictoriaLogs 自带的Syslog输入功能更多。

Docker 国内安装

https://mirror.nju.edu.cn/mirrorz-help/docker-ce/?mirror=NJU

Docker Hub国内加速

sudo mkdir -p /etc/docker
sudo tee /etc/docker/daemon.json <<-'EOF'
{"registry-mirrors": ["https://dockerproxy.com","https://docker.mirrors.ustc.edu.cn","https://docker.nju.edu.cn"]
}
EOF
sudo systemctl daemon-reload
sudo systemctl restart docker

部署VictoriaLogs

​

创建 victoria-logs-data 文件夹

​

docker run -d --restart always \-p 9428:9428 \-v ./victoria-logs-data:/victoria-logs-data \--name victoria-logs-syslog-songxwn.com \docker.io/victoriametrics/victoria-logs:latest \--retentionPeriod=365d# by songxwn.com

​

  • 9428/tcp 对外HTTP访问

  • 数据保留365天

  • ./victoria-logs-data 为存储目录

部署Grafana

docker run -d --name=grafana -p 3000:3000 \-e GF_INSTALL_PLUGINS=victoriametrics-logs-datasource \--name Grafana \grafana/grafana-enterprise

Grafana 接入VictoriaLogs 数据源

插件已默认安装，添加对应数据源即可，目标为 http://192.168.1.1:9428

Filebeat 部署 - 接收Syslog，输出到VL

vim filebeat.docker.yml

filebeat.inputs:- type: udpenabled: truemax_message_size: 10KiBhost: "0.0.0.0:514"fields:type: udpoutput.elasticsearch:hosts: ["http://127.0.0.1:9428/insert/elasticsearch/"]parameters:_msg_field: "message"_time_field: "@timestamp"_stream_fields: "host.hostname"allow_older_versions: true

PS：注意 127.0.0.1 替换为宿主机IP.

运行

docker run -d  \--name Filebeat \--user=root \--volume="$(pwd)/filebeat.docker.yml:/usr/share/filebeat/filebeat.yml:ro" \-p 514:514/udp \docker.elastic.co/beats/filebeat:8.17.2

Docker compose 一把梭

创建并进入 /opt/VFG文件夹

mkdir /opt/VFGcd /opt/VFG

filebeat配置文件 - vim filebeat.docker.yml

http:enabled: truehost: "http://0.0.0.0:5066"filebeat.inputs:- type: udpenabled: truemax_message_size: 10KiBhost: "0.0.0.0:514"fields:type: udpoutput.elasticsearch:hosts: ["http://syslog-victoria-logs:9428/insert/elasticsearch/"]parameters:_msg_field: "message"_time_field: "@timestamp"_stream_fields: "host.hostname"allow_older_versions: true

PS：如果需要字段分割，可以参考如下。增加到输入输出中间即可。

processors:- dissect:tokenizer: "<%{syslog_pri}>%{timestamp} %{hostname} %%{log_level}/%{log_code}/%{log_action}(l):IPVer=%{ipver},Protocol=%{protocol},SourceIP=%{source_ip},DestinationIP=%{destination_ip},SourcePort=%{source_port},DestinationPort=%{destination_port},SourceNatIP=%{source_nat_ip},SourceNatPort=%{source_nat_port},BeginTime=%{begin_time},EndTime=%{end_time},S>field: "message"target_prefix: "parsed"

victoria-logs 数据目录

mkdir victoria-logs-datachown -R 472:472 victoria-logs-data

Grafana 数据目录和配置文件

mkdir grafana-datachown -R 472:472 grafana-data

数据源配置文件

mkdir -p ./provisioning/datasourcesvim ./provisioning/datasources/vm.ymlapiVersion: 1
datasources:# <string, required> Name of the VictoriaLogs datasource# displayed in Grafana panels and queries.- name: VictoriaLogs-songxwn.com# <string, required> Sets the data source type.type: victoriametrics-logs-datasource# <string, required> Sets the access mode, either# proxy or direct (Server or Browser in the UI).access: proxy# <string> Sets URL for sending queries to VictoriaLogs server.# see https://docs.victoriametrics.com/victorialogs/querying/url: http://syslog-victoria-logs:9428# <string> Sets the pre-selected datasource for new panels.# You can set only one default data source per organization.isDefault: true

vim docker-compose.yml 文件

services:victoria-logs:image: victoriametrics/victoria-logs:latestcontainer_name: syslog-victoria-logsvolumes:- ./victoria-logs-data:/victoria-logs-datarestart: alwayscommand: ["--retentionPeriod=365d"]environment:- TZ=Asia/Shanghaihealthcheck:test: ["CMD", "wget", "-q", "--spider", "http://127.0.0.1:9428/health"]interval: 1m30stimeout: 10sretries: 3grafana:image: grafana/grafana-enterprisecontainer_name: syslog-grafanaports:- "3000:3000"environment:- GF_INSTALL_PLUGINS=victoriametrics-logs-datasource- GF_SECURITY_ADMIN_PASSWORD=Songxwn.com- TZ=Asia/Shanghaivolumes:- ./grafana-data:/var/lib/grafana- ./provisioning:/etc/grafana/provisioningrestart: alwayshealthcheck:test: ["CMD", "curl", "-f", "http://localhost:3000/api/health"]interval: 1m30stimeout: 10sretries: 3filebeat:image: docker.elastic.co/beats/filebeat:8.17.2container_name: syslog-filebeatports:- "514:514/udp"volumes:- ./filebeat.docker.yml:/usr/share/filebeat/filebeat.yml:rorestart: alwaysenvironment:- TZ=Asia/Shanghaihealthcheck:test: ["CMD", "curl", "-f", "http://localhost:5066"]interval: 60stimeout: 10sretries: 3

compose 启动命令 （需要Docker Engine 19.03.0以上版本）


docker compose up -d

停止、升级


docker compose downdcker compose pulldocker compose up -d

compose文件说明

1. Victoria-Logs 服务
  • 服务名称: victoria-logs
  • 镜像: 使用 victoriametrics/victoria-logs:latest 镜像。
  • 容器名称: syslog-victoria-logs
  • 数据卷: 挂载本地目录 ./victoria-logs-data 到容器内的 /victoria-logs-data，用于持久化存储。
  • 重启策略: 设置为 always，确保容器在运行失败后自动重启。
  • 启动命令: 指定命令参数 --retentionPeriod=365d，表示日志保留期为365天。
  • 环境变量: 设置时区为 Asia/Shanghai。
  • 健康检查:
    • 执行 wget -q --spider http://127.0.0.1:9428/health 检查服务的健康状态。
    • 每 1分30秒 执行一次检查。
    • 如果检测不到健康状态，等待 10秒 后超时。
    • 重试 3次 失败后标记为非健康。
2. Grafana 服务
  • 镜像: 使用 grafana/grafana-enterprise 镜像。
  • 容器名称: syslog-grafana
  • 端口映射: 将主机的 3000 端口映射到容器的 3000 端口，供外部访问 Grafana。
  • 环境变量:
    • 安装插件 victoriametrics-logs-datasource。
    • 设置初始管理员密码为 Songxwn.com。
    • 设置时区为 Asia/Shanghai。
  • 数据卷:
    • 挂载本地目录 ./grafana-data 到容器中的 /var/lib/grafana，用于持久化 Grafana 的数据。
    • 挂载本地目录 ./provisioning 到 /etc/grafana/provisioning，用于配置预置的数据源和仪表盘。
  • 重启策略: 设置为 always。
  • 健康检查:
    • 执行 curl -f http://localhost:3000/api/health 检查服务的健康状态。
    • 每 1分30秒 执行一次检查。
    • 如果检测不到健康状态，等待 10秒 后超时。
    • 重试 3次 失败后标记为非健康。
3. Filebeat 服务
  • 镜像: 使用 docker.elastic.co/beats/filebeat:8.17.2 镜像。
  • 容器名称: syslog-filebeat
  • 端口映射: 将主机的 514/udp 端口映射到容器的 514/udp 端口，用于接收 Syslog。
  • 数据卷: 将本地的 filebeat.docker.yml 配置文件挂载到容器内的 /usr/share/filebeat/filebeat.yml，且为只读。
  • 重启策略: 设置为 always。
  • 环境变量: 设置时区为 Asia/Shanghai。
  • 健康检查:
    • 执行 curl -f http://localhost:5066 检查服务的健康状态。
    • 每 60秒 执行一次检查。
    • 如果检测不到健康状态，等待 10秒 后超时。
    • 重试 3次 失败后标记为非健康。

这些配置用来部署和管理 Victoria-Logs、Grafana 和 Filebeat 服务，确保它们处于良好运行状态，且在故障发生时可以自动恢复。各自的健康检查提供了针对服务运行状态的简易确认方式，进一步提高系统的稳定性和可靠性。

VFG Compose 部署使用

  • 发送日志到udp/514 端口，即可存储到数据库。 echo "songxwn.com\!" | nc -4u 202.182.109.11 514 命令用来测试发送

  • 访问到Grafana Web 3000端口，使用admin/Songxwn.com 登录。

  • 可以通过已经预先创建的数据源VictoriaLogs-songxwn.com，通过Explore 查询日志（LogsQL语法，* 匹配所有 ）和导出为CSV文件。

  • Grafana 也可以进行日志告警和构建可视化仪表盘。

Grafana 示例

在这里插入图片描述

资源占用 - 有较高日志输入的情况下

​

CONTAINER ID   NAME                   CPU %     MEM USAGE / LIMIT     MEM %     NET I/O           BLOCK I/O        PIDS
1c7fe73fc896   syslog-filebeat        0.52%     63.14MiB / 3.822GiB   1.61%     14.1MB / 5.38MB   0B / 8.19kB      15
4a6ee8b19475   syslog-grafana         0.61%     147.3MiB / 3.822GiB   3.76%     9.85MB / 12.8MB   299kB / 305MB    33
a80d91af294c   syslog-victoria-logs   0.04%     195.7MiB / 3.822GiB   5.00%     5.4MB / 604kB     520kB / 6.86MB   14

http://www.ppmy.cn/news/1572432.html

相关文章

Win10环境借助DockerDesktop部署最新MySQL9.2

Win10环境借助DockerDesktop部署最新MySQL9.2

Win10环境借助DockerDesktop部署最新MySQL9.2 前言 作为一杆主要撸Java的大数据平台开发攻城狮&#xff0c;必不可少要折腾各种组件&#xff0c;环境和版本一直是很头疼的事情。虽然可以借助Anaconda来托管Python的环境&#xff0c;也可以使用多个虚拟机来部署不同的环境&…
阅读更多...
HTTP相关面试题

HTTP相关面试题

HTTP/1.1、HTTP/2、HTTP/3 演变 HTTP/1.1 相比 HTTP/1.0 提高了什么性能&#xff1f; HTTP/1.1 相⽐ HTTP/1.0 性能上的改进&#xff1a; 使⽤长连接的⽅式改善了 HTTP/1.0 短连接造成的性能开销。⽀持管道&#xff08;pipeline&#xff09;网络传输&#xff0c;只要第⼀个请…
阅读更多...
车规MCU处理器选择Cortex-M7还是Cortex-R52？

车规MCU处理器选择Cortex-M7还是Cortex-R52？

车规mcu处理器选择Cortex-M7还是Cortex-R52&#xff1f;跟随小编从具体应用场景、安全等级&#xff08;ASIL&#xff09;、性能、成本进行分析吧。 01安全等级需求 ASIL-D&#xff08;如刹车、转向&#xff09;→ 必选R52。R52原生支持ASIL-D&#xff0c;硬件级错误检测&#…
阅读更多...
【Docker 】虚悬镜像：深入理解与清理实践

【Docker 】虚悬镜像：深入理解与清理实践

文章目录 引言什么是虚悬镜像&#xff1f;虚悬镜像的影响如何识别虚悬镜像清理虚悬镜像1. 使用 docker image prune 命令2. 使用 docker system prune 命令3. 手动删除虚悬镜像 预防虚悬镜像的产生结语 引言 在 Docker 的日常使用中&#xff0c;镜像管理是一个非常重要的环节。…
阅读更多...
本地部署【LLM-deepseek】大模型 ollama+deepseek/conda(python)+openwebui/docker+openwebui

本地部署【LLM-deepseek】大模型 ollama+deepseek/conda(python)+openwebui/docker+openwebui

通过ollama本地部署deepseek 总共两步 1.模型部署 2.[web页面] 参考官网 ollama:模型部署 https://ollama.com/ open-webui:web页面 https://github.com/open-webui/open-webui 设备参考 Mac M 芯片 windows未知 蒸馏模型版本:deepseek-r1:14b 运行情况macminim2 24256 本地…
阅读更多...
uniapp - iconfont下载本地并且运用至项目上

uniapp - iconfont下载本地并且运用至项目上

1、项目中创建一个文件夹放置iconfont相关文件&#xff0c;例如src/assets/iconfont&#xff08;名称自己定义&#xff09; 2、在iconfont下载项目至本地 3、解压后把文件复制进1的文件夹中 4、修改src/assets/iconfont - iconfont.css里的font-face的src地址&#xff0c;修…
阅读更多...
8、《5分钟构建RESTful API：Spring Boot Web开发入门》

8、《5分钟构建RESTful API：Spring Boot Web开发入门》

5分钟构建RESTful API&#xff1a;Spring Boot Web开发入门 一、RESTful API核心认知 REST&#xff08;Representational State Transfer&#xff09;通过HTTP协议实现资源操作&#xff0c;其核心特征包括&#xff1a; 资源以URI标识&#xff08;/api/users&#xff09;通过…
阅读更多...
【webview Android】视频获取首帧为封面

【webview Android】视频获取首帧为封面

文章目录 需求分析获得首帧其他方法 需求分析 客户端中h5上传视频&#xff0c;视频封面默认首帧。 遇到问题&#xff1a;原生的video现象如下 IOS会在加载好后显示首帧&#xff08;没加载好显示黑屏&#xff0c;符合预期&#xff09;Android加载好后默认封面为一个奇怪的占位…
阅读更多...
最新文章

Copyright @ 2022~2023