应用决策树批量化自动生成【效果好】【非过拟合】的策略集

devtools/2024/10/22 18:25:23/

决策树在很多公司都实际运用于风险控制,之前阐述了决策树-ID3算法和C4.5算法、CART决策树原理(分类树与回归树)、Python中应用决策树算法预测客户等级和Python中调用sklearn决策树

本文介绍应用决策树批量自动生成效果好,非过拟合的策略集。

文章目录

    • 一、什么是决策树
    • 二、决策树中专有名词理解
    • 三、应用决策树算法生成规则
      • 1 导入数据
      • 2 看下数据基本情况
        • 2.1 用head函数看下数据表头和前几行数据
        • 2.2 用value_counts函数观测因变量y的数据分布
      • 3 把数据集拆分成训练集和测试集
      • 4 定义从决策树生成规则集的函数
      • 5 训练决策树生成规则
      • 6 生成规则集数据框
      • 7 生成可视化决策树
      • 8 合并训练集和测试集规则数据
      • 9 筛选效果好的规则

  

一、什么是决策树

  
决策树:通过对已知样本的学习,一步一步将特征进行分类,从而将整个特征空间进行划分,进而区分出不同类别的算法。我们在逻辑判断中用到的思想if, else if ,else, then,其实就是决策树的思想。

  
  

二、决策树中专有名词理解

  
1.根节点:包含数据集中所有数据集合的节点,即初始分裂节点。
  
2.叶节点/终端节点:最终的决策结果(该节点不再进行划分),被包含在该叶节点的数据属于该类别。
  
3.内部节点:非根节点和叶节点的节点,该节点包含数据集中从根节点到该节点所有条件的数据集合。根据内部节点的判断条件结果,其对应的数据集合被分到两个或多个子节点中。
  
4.父节点:划分出子节点的节点。
  
5.子节点:由父节点根据某一规则分裂而来的节点。
  
6.节点的深度:节点与决策树根节点的距离,如根节点的子节点的深度为1.
  
7.决策树的深度:所有叶子节点的最大深度。
  
借用CART决策树原理(分类树与回归树)中的简单决策树说明以上名词,用图形展示如下:


http://www.ppmy.cn/devtools/57010.html

相关文章

YOLO在目标检测与视频轨迹追踪中的应用

YOLO在目标检测与视频轨迹追踪中的应用 引言 在计算机视觉领域,目标检测与视频轨迹追踪是两个至关重要的研究方向。随着深度学习技术的飞速发展,尤其是卷积神经网络(CNN)的广泛应用,目标检测与视频轨迹追踪的性能得到…

opencv简单小项目

OpenCV(Open Source Computer Vision Library)是一个开源的计算机视觉和机器学习软件库,它提供了大量的图像和视频处理功能。使用OpenCV可以开发各种简单的小项目,例如: 图像基本操作: 读取和显示图像。调整…

从二元一次方程组到二阶行列式再到克拉默法则

目录 引言1 二元一次方程组什么是二元一次方程组?解法概述示例1. 操作步骤2. 消元法 2 二阶行列式引入行列式行列式定义示例计算 3 克拉默法则什么是克拉默法则?克拉默法则公式使用克拉默法则求解使用克拉默法则求解多元一次方程组求解 \(x\)求解 \(y\)求…

html+js+css登录注册界面

拥有向服务器发送登录或注册数据并接收返回数据的功能 点赞关注 界面 源代码 <!DOCTYPE html> <html lang"en"> <head> <meta charset"UTF-8"> <title>Login and Registration Form</title> <style> * …

【机器学习】在【Pycharm】中的实践教程:使用【逻辑回归模型】进行【乳腺癌检测】

目录 案例背景 具体问题 1. 环境准备 小李的理解 知识点 2. 数据准备 2.1 导入必要的库和数据集 小李的理解 知识点 2.2 数据集基本信息 小李的理解 知识点 注意事项 3. 数据预处理 3.1 划分训练集和测试集 小李的理解 知识点 注意事项 3.2 数据标准化 小李…

python3多文件操作

1 介绍 有两个.py文件&#xff0c;分别为main.py和util.py&#xff0c;执行main.py时&#xff0c;调用util.py当中的函数。 main.py内容如下&#xff0c; import util if __name__ "__main__":a [3.0,4.0]length util.get_length_from_vec(a)print(f"leng…

Java高级重点知识点-19-Lambda

文章目录 Lambda表达式函数式编程思想Lambda表达式写法代码讲解 Lambda表达式 函数式编程思想 强调做什么&#xff0c;而不是以什么形式做。 以函数式接口Runnable为例讲解&#xff1a; public class LambdaDemo {public static void main(String[] args) {Runnable runnab…

应用密码学—(扩展)欧几里得、DES、RSA、SHA-1算法

1. 欧几里得算法 1.1 分析算法的实现原理 欧几里德&#xff08;Euclid&#xff09;算法&#xff0c;也既常说的“辗转相除法”&#xff0c;公式为gcd(m, n) { return gcd(n, m%n); }&#xff0c;对于任意两个正整数m、n&#xff0c;每次求的一个数字r m % n&#xff0c;然后把…