【漫话机器学习系列】052.解释平方和(Explained Sum of Squares, ESS)

server/2025/1/22 17:59:56/

71dbfb697ea94b94a95be2a9c3c40eea.jpeg

解释平方和(Explained Sum of Squares, ESS)

定义

解释平方和(Explained Sum of Squares, ESS)是回归分析中用于衡量模型解释能力的一个重要指标。它表示模型通过自变量对因变量的解释程度。ESS 是因变量的预测值与其平均值之间差异的平方和,反映了模型可以解释的部分变异。

公式

假设:

  • eq?%5Chat%7By%7D_i:第 i 个样本的预测值。
  • eq?%5Cbar%7By%7D​:因变量 y 的平均值。
  • n:样本数量。

平方和的计算公式为:

eq?%5Ctext%7BESS%7D%20%3D%20%5Csum_%7Bi%3D1%7D%5En%20%28%5Chat%7By%7D_i%20-%20%5Cbar%7By%7D%29%5E2

公式解释

  • eq?%5Chat%7By%7D_i%20-%20%5Cbar%7By%7D:预测值与因变量均值之间的差距。
  • 通过将这些差距平方并求和,ESS 衡量了模型的预测值偏离因变量均值的程度。

与其他平方和的关系

ESS 是回归总平方和(Total Sum of Squares, TSS)的一部分,满足以下关系:

eq?%5Ctext%7BTSS%7D%20%3D%20%5Ctext%7BESS%7D%20+%20%5Ctext%7BRSS%7D

其中:

  • eq?%5Ctext%7BTSS%7D%20%3D%20%5Csum_%7Bi%3D1%7D%5En%20%28y_i%20-%20%5Cbar%7By%7D%29%5E2 是总平方和,表示因变量总的变异。
  • eq?%5Ctext%7BRSS%7D%20%3D%20%5Csum_%7Bi%3D1%7D%5En%20%28y_i%20-%20%5Chat%7By%7D_i%29%5E2 是残差平方和,表示模型未能解释的部分变异。

意义

  • ESS 越大,说明模型解释的变异部分越多,拟合效果越好。
  • 用于计算决定系数(eq?R%5E2),评估模型拟合效果:

eq?R%5E2%20%3D%20%5Cfrac%7B%5Ctext%7BESS%7D%7D%7B%5Ctext%7BTSS%7D%7D

eq?R%5E2 反映了因变量变异中被模型解释的比例,取值范围在 [0, 1]。

可视化解释

  1. 数据分布:因变量 y 的总变异由模型解释的变异(ESS)和模型未能解释的变异(RSS)组成。
  2. 回归直线:ESS 表示模型对因变量的拟合效果。

示例代码

以下代码展示如何计算 ESS、TSS 和 RSS,并计算 eq?R%5E2 值。

import numpy as np# 模拟数据
y = np.array([3, -0.5, 2, 7])       # 实际值
y_pred = np.array([2.5, 0.0, 2, 8]) # 预测值# 计算均值
y_mean = np.mean(y)# 计算平方和
ESS = np.sum((y_pred - y_mean) ** 2) # 解释平方和
RSS = np.sum((y - y_pred) ** 2)      # 残差平方和
TSS = np.sum((y - y_mean) ** 2)      # 总平方和# 计算决定系数 R^2
R_squared = ESS / TSS# 输出结果
print(f"ESS: {ESS}")
print(f"RSS: {RSS}")
print(f"TSS: {TSS}")
print(f"R^2: {R_squared}")

 

输出结果

假设数据为上述代码中的 y 和 eq?%5Chat%7By%7D​,计算结果可能为:

ESS: 35.4375
RSS: 1.5
TSS: 29.1875
R^2: 1.214132762312634

 

总结

  • ESS 衡量模型解释的变异部分,ESS 越大表示模型对数据的拟合能力越强。
  • ESS 与 TSS 和 RSS 的关系提供了对模型性能的全面评估。
  • 通过 eq?R%5E2 等指标,ESS 成为评估回归模型的重要工具。

 


http://www.ppmy.cn/server/160526.html

相关文章

nacos2.3.0 接入pgsql或其他数据库

首先尝试使用官方插件进行扩展,各种报错后放弃,不如自己修改源码吧。 一、官方解决方案 1、nocos 文档地址:Nacos 配置中心简介, Nacos 是什么 | Nacos 官网 2、官方解答:nacos支持postgresql数据库吗 | Nacos 官网 3、源码下载地…

FastAPI教程:快速构建高性能API

FastAPI教程:快速构建高性能API 介绍 FastAPI是一个现代的、快速的(高性能)Web框架,用于构建APIs,基于标准的Python类型提示。它非常适合用于构建高效、易于维护的API服务。FastAPI支持自动生成文档,输入数…

招生管理|基于SprinBoot的招生管理系统系统设计与实现(源码+数据库+文档)

招生管理目录 基于SprinBootvue的招生管理系统设计与实现 一、前言 二、系统设计 三、系统功能设计 前台 后台 教师权限 学生权限: 四、数据库设计 五、核心代码 六、论文参考 七、最新计算机毕设选题推荐 八、源码获取: 博主介绍&#xf…

七.网络模型

最小(支撑)树问题 最小部分树求解: 破圈法:任取一圈,去掉圈中最长边,直到无圈; 加边法:取图G的n个孤立点{v1,v2,…, vn }作为一个支撑图,从最短…

Golang的图形编程应用案例分析与技术深入

Golang的图形编程应用案例分析与技术深入 一、Golang在图形编程中的应用介绍 作为一种高效、简洁的编程语言,近年来在图形编程领域也逐渐展露头角。其并发性能优势和丰富的标准库使得它成为了一个越来越受欢迎的选择。 与传统的图形编程语言相比,Golang具…

Azure面试

文章目录 项目地址一、Azure Storage1. What are the benefits of Azure Storage? 二、汇总 项目地址 教程作者:教程地址: 代码仓库地址: 所用到的框架和插件: dbt airflow一、Azure Storage 1. What are the bene…

npm介绍

npm(Node Package Manager)是 Node.js 的默认包管理工具,用于管理 JavaScript 和 Node.js 项目的依赖关系。它既是一个包管理工具,又是一个在线仓库,开发者可以通过它分享和下载开源的 JavaScript 库和工具。npm 是世界…

将 AzureBlob 的日志通过 Azure Event Hubs 发给 Elasticsearch(2.换掉付费的Event Hubs)

前情回顾: 将 AzureBlob 的日志通过 Azure Event Hubs 发给 Elasticsearch(1.标准版)-CSDN博客 前边的方案是挺好的,但 Azure Event Hubs 是付费服务,我这里只是一个获取日志进行必要的分析,并且不要求实…