基础算法:白化

news/2024/11/7 10:41:27/

Whitening:白化

主要分为PCA白化和ZCA白化,是一种重要的预处理过程,其目的就是降低输入数据的冗余性,使得经过白化处理的输入数据具有如下性质:(但是真的使用是,就很少2出现)

1.特征之间相关性较低;

2.所有特征具有相同的方差。

主要介绍PCA方法,先介绍PCA是什么:(其实线性代数中学过)

将—组N维向量降为K维(K大于0,小于N),目标是选择K个单位正交基,使原始数据变换到这组基上后,各字段两两间协方差为0,字段的方差则尽可能大

有主成分分析那股味了

上面图片,左图表示原始数据X,然后通过协方差矩阵求出特征向量(线性代数知识)u1,u2,然后把每个数据点,投影到这两个新的特征向量,便可以得到新的坐标表达,如下,而这就是PCA白化。   

为什么要白化呢?

为了加快训练速度,可以让一些数值放到以原点为中心,更好拟合函数信息。


http://www.ppmy.cn/news/665856.html

相关文章

白化ZCA

参考资料: PCAWhiteningImplementing PCA/Whitening白化:https://my.oschina.net/findbill/blog/543485 什么是白化? 维基百科给出的描述是: 即对数据做白化处理必须满足两个条件: 使数据的不同维度去相关&#xf…

白化滤波器matlab程序,04实验四:白化滤波器的设计实验报告

⑶引用实验一中编制的测试均值、方差、相关函数(包括自相关函数)及实验三中功率谱密度的程序计算有色噪声的这些参数,并将计算结果存入文件中。 【实验报告要求】 ⑴简述实验目的及实验原理。 ⑵按实验的记录数据画出有色噪声信号和其通过白化滤波器后的均值方差、相…

语音处理:音频信号采样点白化方法初探

语音处理:音频信号采样点白化方法初探 公式效果说明功能实现C代码效果实现Python代码效果改进遗留问题参考资料 附:C代码在线调试工具 公式 滑动平均滤波器(Moving Average Filter, MA): 公式说明如下: Xi表示信号幅值&#xf…

PCA与白化

转载自:https://my.oschina.net/findbill/blog/543485 为什么80%的码农都做不了架构师?>>> 教程地址:斯坦福深度学习 白化 什么是白化? 维基百科给出的描述是: 即对数据做白化处理必须满足两个条件&#x…

机器学习笔记 - 深度学习的预处理和图像白化

一、概述 我们将使用代码(Python/Numpy 等)进行编码,以更好的理解从数据预处理的基础知识到深度学习中使用到的技术。 将从数据科学和机器学习/深度学习中基本但非常有用的概念开始,例如方差和协方差矩阵,我们将进一步介绍一些用于将图像输入神经网络的预处理技术。使用具…

去相关与白化

去相关与白化 decorrelation and whitening 最近在看NLP对比学习的东西,对比学习生成句嵌入向量表示,然后针对句嵌入向量进行去相关和白化操作,会提高句向量在下游任务上的表现吗 一般我们使用一个embedding表现一个事物时,都可…

图像处理中的白化处理

先看下wiki上关于whiten transformation的介绍,简言之就是:把具有协方差的变量转换为协方差为单位矩阵的变量,即转换后,变量间不相关,且方差为1。之所以称之为whiten,是由于该处理将输入向量转换为白噪声向…

数据白化讲解--防迷路,通过博客收藏 内藏代码

在CC的系统芯片中都有数据白化功能.whiting的中文件直译为白化,真实的意思应该是数据加噪. 白化处理主要是为了避免在传输过程中出现过长的连续0或1的位流模式。基带处理器需要从接收到的模拟数据信号中判断数据是0还是1,但过长的连续0或1位流会造成问题。因为在接收…