【异常分析:四分位距与3σ原则】

ops/2024/9/22 21:34:10/

文章目录

    • 前言
    • 四分位距(IQR)
    • 3σ原则
    • 使用步骤
      • 计算四分位距
      • 应用3σ原则
    • 代码

前言

异常分析的目标是识别数据中的异常值,这些异常值可能是由于错误的记录、设备故障或者其他未知原因导致的。四分位距(interquartile range, IQR)和3σ原则(3 sigma rule)是两个常用的工具。

四分位距(IQR)

四分位距是统计学中用于度量数据离散程度的一种方法。它是指数据的上四分位数(Q3)与下四分位数(Q1)之间的差值,通常用于识别数据集中的离群值。计算四分位距的公式如下:

IQR=Q3-Q1

其中,Q1是数据的25th百分位数,Q3是数据的75th百分位数。

3σ原则

3σ原则是一种基于正态分布的统计学原则,用于判断数据中的异常值。根据3σ原则,如果数据服从正态分布,那么大约有68%的数据值落在均值加减一个标准差范围内,大约有95%的数据值落在均值加减两个标准差范围内,大约有99.7%的数据值落在均值加减三个标准差范围内。因此,超出均值加减三个标准差范围的数据可以被视为异常值。

使用步骤

计算四分位距

python">import numpy as np# 计算第一四分位数(Q1)
Q1 = np.percentile(data, 25)# 计算第三四分位数(Q3)
Q3 = np.percentile(data, 75)# 计算四分位距(IQR)
IQR = Q3 - Q1

应用3σ原则

python"># 计算数据的均值和标准差
mean = np.mean(data)
std_dev = np.std(data)# 计算异常值的阈值
threshold = 3 * std_dev# 根据3σ原则判断异常值
outliers = [x for x in data if abs(x - mean) > threshold]

代码

python">import numpy as np
import matplotlib.pyplot as plt# 示例数据
data = [100, 150, 200, 250, 300, 350, 400, 450, 500, 1000]# 计算四分位距
Q1 = np.percentile(data, 25)  # 第一四分位数
Q3 = np.percentile(data, 75)  # 第三四分位数
IQR = Q3 - Q1  # 四分位距
print("第一四分位数:", Q1)
print("第三四分位数:", Q3)
print("四分位距:", IQR)
print("异常值范围:", (Q1 - 1.5 * IQR, Q3 + 1.5 * IQR))# 应用3σ原则识别异常值
mean = np.mean(data)
std_dev = np.std(data)
threshold = 3 * std_dev
outliers = [x for x in data if abs(x - mean) > threshold]
print("异常值:", outliers)# 可视化
# 箱型图
plt.rcParams['font.sans-serif'] = ['SimHei']
plt.rcParams['axes.unicode_minus'] = False
plt.boxplot(data)
plt.xlabel('数据')
plt.title('数据和异常值')
plt.show()


http://www.ppmy.cn/ops/47216.html

相关文章

WebStorm 2024.1.1 Mac激活码 前端开发工具集成开发环境(IDE)

WebStorm 2024 Mac激活码 搜索Mac软件之家下载WebStorm 2024 Mac激活版 WebStorm 2024 功能介绍 WebStorm 2024是由JetBrains公司开发的一款专为前端开发设计的集成开发环境(IDE)。它提供了一整套功能,旨在提高Web开发者的工作效率和代码质…

数字塔问题

#include<iostream> using namespace std; //从下向上得到最优值 void dtower(int a[][100],int s[][100],int n) {for(int in; i>1; i--){for(int j1; j<i; j){if(in)s[i][j]a[i][j];else{int ts[i1][j];if(t<s[i1][j1])ts[i1][j1];s[i][j]a[i][j]t;}}} } void…

音视频开发13 FFmpeg 音频 相关格式分析 -- AAC ADTS格式分析

这一节&#xff0c;我们学习常用的音频的格式 AAC&#xff0c;重点是掌握 AAC的传输格式 ADTS 头部的信息&#xff0c;目的是 &#xff1a; 当音频数据有问题的时候&#xff0c;如果是AAC的编码&#xff0c;在分析 头部信息的时候能够根据头部信息 判断问题是否出现在 头部。 A…

探秘Android系统启动的神秘面纱

系统启动过程对于任何操作系统来说都是一个非常关键的环节&#xff0c;Android作为移动设备领域中占据主导地位的操作系统&#xff0c;其启动过程也是个值得深入研究的重点话题。本文将为您解开Android启动过程的神秘面纱&#xff0c;详细剖析其中的每一个步骤&#xff0c;并通…

LLM的基础模型3:Transformer变种

大模型技术论文不断&#xff0c;每个月总会新增上千篇。本专栏精选论文重点解读&#xff0c;主题还是围绕着行业实践和工程量产。若在某个环节出现卡点&#xff0c;可以回到大模型必备腔调或者LLM背后的基础模型新阅读。而最新科技&#xff08;Mamba,xLSTM,KAN&#xff09;则提…

进程间通信(27000字超详解)

&#x1f30e;进程间通信 文章目录&#xff1a; 进程间通信 进程间通信简介       进程间通信目的       初识进程间通信       进程间通信的分类 匿名管道通信       认识管道       匿名管道       匿名管道测试       管道的四种…

MySQL:MySQL的EXPLAIN各字段含义详解

在MySQL中&#xff0c;EXPLAIN是一个强大的工具&#xff0c;用于获取关于SELECT语句执行计划的信息。当你对查询性能有疑问时&#xff0c;使用EXPLAIN可以帮助你理解MySQL如何执行你的查询&#xff0c;并可能揭示性能瓶颈。 以下是EXPLAIN输出中各个列的详细解释&#xff1a; …

Spring Cloud系列——使用Sentinel进行微服务保护

文章目录 一、引言1. 雪崩问题的产生原因2. 解决雪崩问题的思路 二、微服务保护1. 服务保护方案1.1 请求限流1.2 线程隔离1.3 服务熔断 2. Sentinel2.1 安装2.2 微服务整合2.2.1 请求限流2.2.2 线程隔离①OpenFeign整合Sentinel②配置线程隔离 2.2.3 服务熔断①编写降级逻辑②配…