数据挖掘导论——第二章:数据

news/2025/3/16 8:59:11/

谈数据之前,我们要先知道数据有哪几种类型。数据的维度,数据的频率、位置、分布(方差或标准差衡量)等。

接着就是数据的质量,数据挖掘着眼于要么是对数据质量问题的检测和纠正,要么是使用可以容忍低质量数据的算法。第一步对数据质量问题的检测和纠正,通常称作数据清理。

涉及测量误差的问题:噪声、伪像、偏置、精度和准确度。

同时涉及测量误差和数据收集的问题:离群点、遗漏值、重复数据。

如何处理缺失值?删除/估计缺失值/分析过程中忽略缺失值/用所有可能值(按概率加权)替换

非标准化数据:不同特征的值域差别过大。这会带来什么问题?

1,在计算不同样本之间的距离时,假如不标准化,可能造成对特征的重要程度估计的影响

2,忽略了真正的偏差

两类标准化方式:

1,Max-Min标准化。容易受极端值影响。

2,Z-score标准化。使用前提:高斯分布。

标准化是同类数据之间进行的。

值得一提的是基因/蛋白表达矩阵(行为样本,列为基因),需要去除batch的时候,是沿着列标准化,要对基因表达正则化则沿着行(有些基因天生表达差异大)

对于分类数据或非量化数据,可以用one-hot encoding。

总之,数据清洗分为以下几步:数据去噪,清除异常值,处理缺失值,删除重复,分类数据编码,数据标准化。先后顺序可能会影响最后结果。


http://www.ppmy.cn/news/1579531.html

相关文章

摄像头模块ISP处理流程

摄像头模块的ISP(图像信号处理器)处理流程是对图像传感器输出的原始信号进行系统性优化的过程,主要分为以下关键步骤及对应功能模块: 一、原始信号输入与预处理 ‌传感器信号捕获‌ CMOS/CCD传感器将光信号转换为模拟电信号&…

原生微信小程序实现导航漫游(Tour)

效果&#xff1a; 小程序实现导航漫游 1、组件 miniprogram/components/tour/index.wxml <!--wxml--> <view class"guide" wx:if"{{showGuide}}"><view style"{{guideStyle}}" class"guide-box"><view class&quo…

linux下的进程

linux下的进程 1、冯诺依曼体系结构2、操作系统2.1 概念2.2 设计OS的目的2.3 定位2.4 如何理解 "管理" 3、进程3.1 基本概念3.2 描述进程-PCB3.3 最早版本task-struct&#xff08;linux&#xff09;3.4 查看进程3.5 getppid&#xff08;副id&#xff09; 4 系统调用&…

Spring @Bean注解使用场景二

bean:最近在写一篇让Successfactors顾问都能搞明白的sso的逻辑的文章&#xff0c;所以一致在研究IAS的saml2.0的协议&#xff0c;希望用代码去解释SP、idp的一些概念&#xff0c;让顾问了解SSO与saml的关系&#xff0c;在github找代码的时候发现一些代码的调用关系很难理解&…

mac利用“自动操作”扩展添加 Mac 访达右键菜单项

用惯了 Windows 的资源管理器&#xff0c;换到 Mac 的访达&#xff0c;最不习惯的就是不能通过右键菜单创建文件。 虽然 Mac 的 App Store 中有几个可以增加访达右键菜单的工具&#xff0c;但是居然都要收费&#xff08;就这么一点点活都能卖钱&#xff0c;真是了不起&#xf…

【Python 数据结构 15.哈希表】

目录 一、哈希表的基本概念 1.哈希表的概念 2.键值对的概念 3.哈希函数的概念 4.哈希冲突的概念 5.常用的哈希函数 Ⅰ、直接定址法 Ⅱ、平方取中法 Ⅲ、折叠法 Ⅳ、除留余数法 Ⅴ、位与法 6.哈希冲突的解决方案 Ⅰ、开放定址法 Ⅱ、链地址法 7.哈希表的初始化 8.哈希表的元素插…

利用亚马逊云科技”多模态AI知识库“获取非结构化数据总结

在多个行业的AI应用场景里&#xff0c;许多应用程序需要与不同多模态的内容交互和分析。其中一些应用程序需要处理复杂的文档&#xff0c;例如保险理赔单和医疗账单。移动应用还需要分析用户生成的一些图片、视频内容。企业需要在包括文档、图像、音频和视频文件的数字资产之上…

1Panel 搭建DeepSeek-R1,开启AI自由新体验

引言&#xff1a;AI 浪潮下的探索 在当下&#xff0c;AI 的热潮可谓是席卷全球&#xff0c;大模型领域更是呈现出百花齐放的繁荣景象。从 ChatGPT 掀起的全民 AI 狂欢&#xff0c;到各类国产大模型的争相崛起&#xff0c;我们正亲身经历着 AI 技术带来的巨大变革 。越来越多的…