内核tracepoint的注册回调及添加的方法

server/2024/11/15 4:03:25/

一、背景

内核开发时往往需要做一些内核态函数的监测或者内核状态的监测,就需要用一些调试手段来观测。常用的内核态的观测如kprobe和tracepoint,但是kprobe往往受制于一些系统的限制,很多系统并没有打开kprobe选项,这样我们不能通过kprobe来探测。但是tracepoint一般都是打开的,毕竟系统的很多行为默认都是通过ftrace去抓取,ftrace就是基于系统的预埋的tracepoint点去捞系统信息的,所以肯定得打开才行。

关于tracepoint的抓取方法,我们分为改内核方式和不改内核方式:改内核方式,我们可以注册已有的tracepoint点,也可以注册一些新的自定义的tracepoint点,这部分我们会在第二章里展开;不改内核方式,也就是通过编写一个模块来注册,注册的方式稍微有点复杂,但是仍然可以注册现有的一些tracepoint,但是注册不了新的tracepoint,这部分我们会在第三章里展开。

二、修改内核的方式进行tracepoint点的注册和新加tracepoint点

修改内核的方式使用tracepoint的方式分为好几种,我们先介绍使用现有tracepoint点,进行注册回调。

继而介绍如何新增一个tracepoint点,新增一个tracepoint点大致分为两种方式:

1)使用现有的tracepoint的模块比如sched模块,即跟随现有模块进行使能和关闭

2)新增一个tracepoint的模块

tracepoint本身属于一个内核的监测点,我们可以借助这个监测点注册自己的回调来做一些监控的事情。除此以外,内核的大部分tracepoint点,都有默认的ftrace打印。对于我们新增的tracepoint点,我们可以增加打印也可以不增加打印,这在这一章里会介绍。

这一章的最后一节会介绍,如何在内核里基于tracepoint点注册自己的回调函数,模块注册tracepoint回调函数见第三章。

2.1 使用现有的tracepoint模块,新增一个tracepoint点

这一节会先介绍新增一个tracepoint点并附着ftrace打印,意思就是开启所属的tracepoint的模块时,新增的这个tracepoint点的附着的打印也会跟随ftrace的该模块的其他打印一同输出到ftrace里。

然后,再介绍如何不默认附着打印,因为不默认附着打印,对系统的性能损耗是最低的,因为现有的模块有时候会进行调试而打开ftrace,新增的这一条tracepoint也会增加一些性能的损耗,有时候我们已经新增的tracepoint点有了回调处理,其实并不需要再有打印输出,当然,按照需求,我们可以灵活的选择。

2.1.1 现有tracepoint模块新增一个tracepoint点并附着ftrace打印

内核里其实已经有一个现成的新增一个tracepoint的模板供参考,在include/trace/events/sched.h里:

上图中sched_process_template是新增的tracepoint的名字,在代码里要添加的方式如下:

下图就是一个添加例子,比如我们要在kernel/sched/core.c里,在trace_sched_switch的下面加上这个sched_process_template的tracepoint,就可以如下编写

注意,如果要增加tracepoint的.c的文件上面没有引用过tracepoint的相关头文件,就需要学习core.c的添加方法,进行添加相关头文件:

这么添加的话,比如添加到了sched的tracepoint模块里,如果按照如下进行sched的trace的enable的话,新注册的这个tracepoint的日志是会跟随sched其他tracepoint日志一起输出的。

2.1.1.1 一个抓trace的脚本,使能sched的trace,新增到sched的tracepoint附着日志也会跟随输出

下面的是使能trace的方法的例子,下面根据输入的参数作为睡眠的秒数,如果没有输入参数,则睡眠10秒,使能了sched和irq的trace,也是两个常用的trace,其他下面脚本里还有一些注释掉的内容也供参考,经常也会用到

#!/bin/bashif [ -n "$1" ]; thensleeptime=$1
elseecho "no input sleep time"sleeptime=10
fiecho 1 > /sys/kernel/tracing/events/sched/enable
#echo 1 > /sys/kernel/tracing/events/sched/sched_wakeup_new/enable
#echo 1 > /sys/kernel/tracing/events/sched/sched_process_exec/enable
#echo 1 > /sys/kernel/tracing/events/sched/sched_process_fork/enableecho 1 > /sys/kernel/tracing/events/irq/enable
#echo 1 > /sys/kernel/tracing/events/block/enable
#echo 1 > /sys/kernel/tracing/events/writeback/folio_wait_writeback/enableecho 80960 > /sys/kernel/tracing/buffer_size_kb
echo 4096 > /sys/kernel/tracing/buffer_size_kb
echo 1 > /sys/kernel/tracing/options/record-tgid
echo 1280 > /sys/kernel/tracing/saved_cmdlines_sizeecho > /sys/kernel/tracing/traceecho 1 > /sys/kernel/tracing/tracing_onsleep $sleeptime#echo 1 > /sys/kernel/tracing/snapshotecho 0 > /sys/kernel/tracing/tracing_on#cat /sys/kernel/tracing/snapshot > record/snapshot.txtcat /sys/kernel/tracing/trace > trace.txt

2.1.2 现有tracepoint模块新增一个tracepoint点并不附着ftrace打印

不附着打印一般用于新增注册的tracepoint点有自己定义的回调函数,并且考虑到性能不想附着打印影响开trace时的系统效率。

还是用系统已有的sched_process_template作为例子,如下,要用DECLARE_TRACE代替DECLARE_EVENT_CLASS,然后把TP_STRUCT__entry及TP_fast_assign及TP_printk三段删掉即可

2.2 新增一个tracepoint模块,并增加一个tracepoint点

新增一个tracepoint模块,我们可以新增一个include/trace/events/下的一个头文件,头文件如下定义,我们依然还是用现有的sched_process_template来举例:

#undef TRACE_SYSTEM
#define TRACE_SYSTEM xxx#if !defined(_TRACE_XXX_H) || defined(TRACE_HEADER_MULTI_READ)
#define _TRACE_XXX_H#include <linux/tracepoint.h>DECLARE_EVENT_CLASS(sched_process_template,TP_PROTO(struct task_struct *p),TP_ARGS(p),TP_STRUCT__entry(__array(	char,	comm,	TASK_COMM_LEN	)__field(	pid_t,	pid			)__field(	int,	prio			)),TP_fast_assign(memcpy(__entry->comm, p->comm, TASK_COMM_LEN);__entry->pid		= p->pid;__entry->prio		= p->prio; /* XXX SCHED_DEADLINE */),TP_printk("comm=%s pid=%d prio=%d",__entry->comm, __entry->pid, __entry->prio)
);#endif /* _TRACE_XXX_H *//* This part must be outside protection */
#include <trace/define_trace.h>

注意,如果新增的tracepoint点在头文件里的函数里用到,则头文件里也得加上相关的定义的头文件,比如新增了一个模块的trace头文件xx.h,在某个.h里函数里有用到,则也在这个.h函数里加上:

#include <trace/events/xx.h>

2.3 注册tracepoint点的自定义回调函数(非内核模块)

分为注册已有的tracepoint点的自定义回调函数和注册新增的tracepoint点的自定义回调函数

其实这两种在注册tracepoint点的自定义回调函数这方便是一样的:

还是以sched_process_template的注册自定义回调为例子

先定义自己的回调函数(注意,tracepoint回调函数的得新增一个void*变量作为第一个参数):

增加这个void*变量通俗的理解就是C里仿C++的this指针的意思

static void cb_sched_process_template(void *i_data, struct task_struct *i_next)
{// to do
}

注册这个自定义回调(注意,register_trace_sched_process_template函数是默认跟着tracepoint函数的定义而自动生成的函数):

register_trace_sched_process_template(cb_sched_process_template, NULL);

不用时进行回调的unregister:

unregister_trace_sched_process_template(cb_sched_process_template, NULL);
tracepoint_synchronize_unregister();

注意上面的tracepoint_synchronize_unregister函数,用于同步等之前的解注册自定义回调函数的逻辑完成,这个在SMP环境下,比如有人还在正在使用它,而不去等这个解注册完成,直接执行后面的清除逻辑,就会发生一种情况,就是在后面的清除逻辑做了一些以后,另外一个核上跑到回调函数里面,又写了一些数据,导致数据上不一致,所以,就需要这个同步等tracepoint都unregister这个动作。

三、使用内核模块进行内核已有tracepoint点的注册

先展示一下,使用第二章里的方法进行模块里的注册遇到的问题:

3.1 模块里不能使用register_trace_xx进行内核里tracepoint点的注册

下面的截图是想在模块里直接使用register_trace_sched_switch进行sched_switch的tracepoint点的注册:

但是编译时遇到错误:

3.2 使用tracepoint_probe_register和tracepoint_probe_unregister进行注册的方式

在模块里不能直接使用register_trace_xx和unregister_trace_xx这个系列的函数,但是可以使用tracepoint_probe_register和tracepoint_probe_unregister这两个函数去根据函数地址直接去注册tracepoint,那么,函数地址怎么来,可以通过for_each_kernel_tracepoint这个内核export的symbol去遍历找指定名字的tracepoint函数,如下查找方式:

上图中红色框出来的函数的定义,这边是通过一个宏来构造,为了可以用一个宏来定义多个tracepoint的查找函数

这么做是因为for_each_kernel_tracepoint这个export的symbol的第一个函数是一个而函数指针:

而传入for_each_kernel_tracepoint函数的第二个参数priv会原封不动的作为入参塞给传入进来的第一个函数指针的函数,所以就有下面的函数名的检查逻辑:

因为tracepoint的结构体里的name也就是tp->name是去掉trace_这个字符串头的后面的部分,比如sched_switch。

3.3 完整的实现代码例子和效果展示

完整的代码如下:

#include <linux/module.h>
#include <linux/capability.h>
#include <linux/sched.h>
#include <linux/uaccess.h>
#include <linux/proc_fs.h>
#include <linux/ctype.h>
#include <linux/seq_file.h>
#include <linux/poll.h>
#include <linux/types.h>
#include <linux/ioctl.h>
#include <linux/errno.h>
#include <linux/stddef.h>
#include <linux/lockdep.h>
#include <linux/kthread.h>
#include <linux/sched.h>
#include <linux/delay.h>
#include <linux/wait.h>
#include <linux/init.h>
#include <asm/atomic.h>
#include <trace/events/workqueue.h>
#include <linux/sched/clock.h>
#include <linux/string.h>
#include <linux/mm.h>
#include <linux/interrupt.h>
#include <linux/tracepoint.h>
#include <trace/events/sched.h>
#include <trace/events/irq.h>MODULE_LICENSE("GPL");
MODULE_AUTHOR("zhaoxin");
MODULE_DESCRIPTION("module for test tracepoint.");
MODULE_VERSION("1.0");bool blog = false;static void cb_sched_switch(void *i_data, bool i_preempt,struct task_struct *i_prev,struct task_struct *i_next,unsigned int i_prev_state)
{if (!blog) {blog = true;printk("in cb_sched_switch here!\n");}
}struct kern_tracepoint {void *callback;struct tracepoint *ptr;bool bregister;
};static void clear_kern_tracepoint(struct kern_tracepoint *tp)
{if (tp->bregister) {tracepoint_probe_unregister(tp->ptr, tp->callback, NULL);}
}#define INIT_KERN_TRACEPOINT(tracepoint_name) \static struct kern_tracepoint mykern_##tracepoint_name = {.callback = NULL, .ptr = NULL, .bregister = false};#define TRACEPOINT_CHECK_AND_SET(tracepoint_name)                                             \static void tracepoint_name##_tracepoint_check_and_set(struct tracepoint *tp, void *priv) \{                                                                                \if (!strcmp(#tracepoint_name, tp->name))                                     \{                                                                            \((struct kern_tracepoint *)priv)->ptr = tp;                          \return;                                                                  \}                                                                            \}INIT_KERN_TRACEPOINT(sched_switch)
TRACEPOINT_CHECK_AND_SET(sched_switch)static int __init osmon_main_init(void)
{	mykern_sched_switch.callback = cb_sched_switch;for_each_kernel_tracepoint(sched_switch_tracepoint_check_and_set, &mykern_sched_switch);if (!mykern_sched_switch.ptr) {printk("sched_switch register failed!\n");return 0;}else {printk("sched_switch register succeeded!\n");}tracepoint_probe_register(mykern_sched_switch.ptr, mykern_sched_switch.callback, NULL);mykern_sched_switch.bregister = 1;return 0;
}static int __init osmon_sched_module_init(void) {unsigned long flags;unsigned long start_time, end_time;printk(KERN_INFO "osmon_sched_module: init start.\n");osmon_main_init();printk(KERN_INFO "osmon_sched_module: init done.\n");return 0;
}static void __exit osmon_sched_module_exit(void) {clear_kern_tracepoint(&mykern_sched_switch);tracepoint_synchronize_unregister();printk(KERN_INFO "osmon_sched_module: Module unloaded.\n");
}module_init(osmon_sched_module_init);
module_exit(osmon_sched_module_exit);

Makefile:


KERNEL_DIR:=/lib/modules/$(shell uname -r)/build.PHONY: modules modules_cleanmodules:${MAKE} -C $(KERNEL_DIR) M=$(CURDIR) modulesmodules_clean:${MAKE} -C $(KERNEL_DIR) M=$(CURDIR) modules_clean

可以看到是能跑到我注册的tracepoint回调函数的:


http://www.ppmy.cn/server/141205.html

相关文章

【从零开始的LeetCode-算法】1456. 定长子串中元音的最大数目

给你字符串 s 和整数 k 。 请返回字符串 s 中长度为 k 的单个子字符串中可能包含的最大元音字母数。 英文中的 元音字母 为&#xff08;a, e, i, o, u&#xff09;。 示例 1&#xff1a; 输入&#xff1a;s "abciiidef", k 3 输出&#xff1a;3 解释&#xff1a…

Openlayers10.2.1最新版在安卓Compose中使用的一个例子

题目 这是一个中小公司的面试题&#xff1a; Openlayers 是一个功能完善的地图引擎&#xff0c;能在WEB页面上显示瓦片地图或者矢量地图&#xff0c;官方网址是https://openlayers.org/。 1、尝试做一个安卓App&#xff0c;使用Openlayers显示高德或者百度在线地图&#xff0c…

分布式——BASE理论

简单来说&#xff1a; BASE&#xff08;Basically Available、Soft state、Eventual consistency&#xff09;是基于CAP理论逐步演化而来的&#xff0c;核心思想是即便不能达到强一致性&#xff08;Strong consistency&#xff09;&#xff0c;也可以根据应用特点采用适当的方…

【react18】你可能要知道的关于权限按钮效果的优雅实现

权限按钮&#xff0c;跟权限路由一样&#xff0c;不同的角色登录app,展示不同的菜单页面&#xff0c;一个页面内管理可以进行删除记录等操作&#xff0c;普通的成员之有阅读的权限&#xff0c;这就是权限按钮需要做的事。 实现效果 三个按钮全显示。 后端没有返回该用户的新增…

Java NIO实现高性能HTTP代理

NIO采用多路复用IO模型&#xff0c;相比传统BIO&#xff08;阻塞IO&#xff09;&#xff0c;通过轮询机制检测注册的Channel是否有事件发生&#xff0c;可以实现一个线程处理客户端的多个连接&#xff0c;极大提升了并发性能。 在5年前&#xff0c;本人出于对HTTP正向代理的好…

Flink介绍

什么是Flink Apache Flink 是一个开源的流处理框架&#xff0c;用于处理实时数据流和批处理数据。它具有高吞吐量、低延迟和容错性强的特点&#xff0c;适用于各种实时数据处理场景&#xff0c;如实时分析、事件驱动应用和数据管道等。Flink 提供了丰富的 API&#xff0c;支持…

基础数据结构——队列(链表实现)

队列的性质 先进先出&#xff08;FIFO - First In First Out&#xff09;&#xff1a;最先加入队列的元素最先被移出后进后出&#xff08;后来的元素排在队尾&#xff09;只允许在队尾插入元素&#xff0c;在队首删除元素具有先来先服务的特点 链表实现队列 和之前创建链表相…

【ROS2】usb摄像头识别二维码

1、安装依赖 1)安装usb摄像头 ROS包: sudo apt install ros-humble-usb-cam2)安装二维码识别库 sudo apt install libzbar-dev3)安装opencv cv::Mat和sensor_msgs转换库 sudo apt install ros-humble-cv-bridge4)安装pydantic库 pip3 install pydantic==1.10.7注意版…