日志处理小demo

news/2024/11/29 22:29:32/

from pyflink.datastream import StreamExecutionEnvironment
from pyflink.datastream.functions import  MapFunction, RuntimeContext, KeyedProcessFunction

import re
import redis


# 创建 StreamExecutionEnvironment 对象
env = StreamExecutionEnvironment.get_execution_environment()
env.set_parallelism(1)

# 读取文件,创建 DataStream 对象
data_stream = env.read_text_file('/root/pyflink/elink.txt')
# 对每行数据添加字符串 'aaaa'
class MyMapFunction(MapFunction):
   def open(self, runtime_context: RuntimeContext):
     self.r = redis.Redis(host='127.0.0.1', port=6379)

   def map(self,line):
    pat=re.compile(r"<Serial>(\d+)</Serial>")
    bus_seq=pat.findall(line)
    if bus_seq:
       process_id=line.split()[2]
       self.r.set(process_id,bus_seq[0])
    process_id=line.split()[2]
    bus_seq=self.r.get(process_id) 
    return(bus_seq.decode('UTF-8')+'->'+line) 
new_stream = data_stream.map(MyMapFunction()).set_parallelism(1)

# 输出到控制台
new_stream.print()

# 执行任务
env.execute('Add "aaaa" to each line')


http://www.ppmy.cn/news/185507.html

相关文章

如何使用宝塔面板搭建网站(最后一步!上传文件至宝塔面板)

这里就是我们搭建宝塔面板的最后一步了&#xff0c;把我们的PHP文件上传到宝塔面板上&#xff0c;就可以通过因特尔网络访问我们的网址了。 第一步&#xff1a;基础安装 必须是Linux服务器 不支持window服务器 最低要求配置1核1G当然再低些也能运行但是不建议 要求服务器环…

PostgreSql根据给的时间范围统计15分钟粒度、小时粒度、天粒度、周粒度、月粒度工单

PostgreSql根据给的时间范围统计15分钟粒度、小时粒度、天粒度、周粒度、月粒度工单 说明实现15分钟粒度工单统计小时粒度工单统计天粒度工单统计周粒度工单统计月粒度工单统计 说明 项目有个需求是统计故障工单每15分钟、每小时、每天、每周和每月共有多少工单。 这里先做个笔…

2021年全国A级景区矢量分布数据(11969条)

一、景区定义 旅游景区是以旅游及其相关活动为主要功能或主要功能之一的空间或地域。本标准中旅游景区是指具有参观游览、休闲度假、康乐健身等功能&#xff0c;具备相应旅游服务设施并提供相应旅游服务的独立管理区。该管理区应有统一的经营管理机构和明确的地域范围。包括风景…

Unity替换启动Logo动画

前言 最近的项目中&#xff0c;由于Android中集成了Unity场景&#xff0c;每次进入打包好的Unity项目时都会出现Unity的标志性动画&#xff0c;让用户处于等待状态&#xff0c;体验感比较差&#xff1b;于是便在产品经理的要求下将Unity的启动Logo换成公司的宣传动画 目前的解…

3D建模,游戏建模和渲染极力推荐的5款笔记本电脑

如果想要一台用于3D建模&#xff0c;游戏建模和渲染的顶级笔记本电脑&#xff0c;这里有一些具有卓越性能的优秀笔记本电脑。 1. 华硕 ZenBook Pro Duo 满足您所有渲染和建模需求的高级工作站笔记本电脑 超快、健壮&#xff0c;将有助于制作出色的动画。 4K 超高清屏幕带来绚…

计算机专业买笔记本电脑游戏本还是商务本好,购买笔记本电脑,游戏本真的是第一选择吗?...

随着现代科技的发展&#xff0c;1946年诞生的计算机也逐渐从一个庞然大物发展到了小型并普及化计算机时代&#xff0c;而小型的台式计算机又衍生发展出了笔记本电脑。 我们很多人都有购买笔记本电脑的需求&#xff0c;笔记本又分为商务本、超薄本、游戏本等几大种类。因此我们这…

2022打游戏的笔记本电脑推荐哪款?来看看外星人!

可以说&#xff0c;2022年的笔记本市场出现了很多不错的新品&#xff0c;第十二代酷睿处理器的表现也着实令人欣喜。不过&#xff0c;要问打游戏的笔记本电脑推荐哪款&#xff0c;我还是会毫不犹豫的回答你“外星人”。   作为一家成立数十年的高端品牌&#xff0c;外星人从成…

计算机专业游戏本推荐,游戏本什么牌子好?2019值得买的高性价比游戏笔记本电脑推荐...

如今&#xff0c;喜欢玩游戏的人越来越多&#xff0c;游戏笔记本作为玩游戏的主要工具之一&#xff0c;也备受游戏玩家的关注&#xff0c;那么&#xff0c;游戏本买什么牌子好&#xff1f;2019年有哪些性价比高的游戏笔记本电脑呢?下面推荐值得入手的四款游戏笔记本&#xff0…