ETL是什么?怎样更快的学习ETL?

news/2024/11/29 17:25:13/

ETL是英文Extract-Transform-Load的缩写,用来描述将数据从源端经过抽取(extract)、转换(transform)、加载(load)至目的端的过程,它能够对各种分布的、异构的源数据(如关系数据)进行抽取,按照预先设计的规则将不完整数据、重复数据以及错误数据等“脏"数据内容进行清洗,得到符合要求的“干净”数据,并加载到数据仓库中进行存储,这些“干净”数据就成为了数据分析、数据挖掘的基石。

ETL是实现商务智能(Business Intelligence,BI)的核心。一般情况下,ETL会花费整个BI项目三分之一的时间,因此ETL设计得好坏直接影响BI项目的成败。

企业中常用的ETL实现有多种方式,常见的方式如下。

(1)借助ETL工具(如Pentaho Kettle、Informatic等)。

(2)编写SQL语句。

(3)将ETL工具和SQL语句结合起来使用。

上述3种实现方式各有利弊,其中第1种方式可以快速建立ETL工程,屏蔽复杂的编码任务、加快速度和降低难度,但是缺少灵活性:第2种方式使用编写SQL语句的方式优占是灵活,可以提高ETL的运行效率,但是编码复杂,对技术要求比较高;第3种方式综合了前面两种方法的优点,可以极大地提高ETL的开发速度和效率。

ETL体系结构

ETL主要是用来实现异构数据源数据集成的。多种数据源的所有原始数据大部分未作修改就被载人ETL,因而,无论数据源在关系型数据库、非关系型数据库,还是在外部文件.集成后的数据都将被置于数据库的数据表或数据仓库的维度表中,以便在数据库内或数据仓库中作进一步转换(因此,一般会将最终的数据存储到数据库或者数据仓库中)。ETL的体系结构如图下所示。

ETL体系结构

在上图中,若数据源1和数据源2均为功能较强大的DBMS(数据库管理系统),则可以使用SQL语句完成一部分数据清洗工作。但是,如果数据源为外部文件,就无法使用SQL语句进行数据清洗工作了,只能直接从数据源中抽取出来,然后在数据转换的时候进行数据清洗的工作。因此,数据仓库中的数据清洗工作主要还是在数据转换的时候进行。清洗好的数据将保存到目标数据库中,用于后续的数据分析、数据挖掘以及商业智能。

怎样学习ETL

为了让你了解ETL开发,同时使用Python语言来完成ETL任务,综合运用Python高级和MySQL数据库,黑马程序员推出了免费的Python+ETL课程。在下面的路线图中,你不仅能学到ETL,还能学到更多的大数据知识。


http://www.ppmy.cn/news/769634.html

相关文章

PVT、OCV、工艺偏差、CPPRCRPR

文章目录 PVT&OCV(local variation)Sources of variation1) Etching2) Oxide Thickness propagation delay、ld、drain currentCPPR&CRPRsetup checkHold check 芯片的delay由两部分影响因素构成 cell delay:library set pvt_cornernet delay: rc tech fil…

Redis锁防止重复提交

1.自定义注解方式 /*** author :网寻星公众号* date :Created in 2023/5/30 10:58* description:Redis锁防止重复提交* modified By:* version: 1.0$*/ Target({ElementType.METHOD}) Retention(RetentionPolicy.RUNTIME) Docume…

二十三种设计模式第十四篇--策略模式

策略模式:主要围绕一个类的行为或者其算法在运行时更改,也是一种行为型模式。 在软件开发中,我们经常遇到需要根据不同的情况选择不同算法或行为的情况。传统的做法是使用大量的条件语句来实现这种逻辑,但这样的实现方式往往难以…

如何变更Win10系统电脑的锁屏壁纸?分享经验!怎样选择Win10电脑的锁屏壁纸?

如今我们越来越多使用WIN10系统电脑来操作办公了,win10电脑系统对比于Win7系统许多选项简化了不少,win10系统的功能也是极为强大的,有许多是跟我们之前使用过的系统不同的,我们下面就开始对Win10系统如何变更锁屏壁纸操作进行讲解…

锁定计算机怎么换头像,电脑锁屏头像怎么设置

电脑锁屏头像怎么设置 当我们安装完Windows8系统之后,感觉个性化设置(锁屏、“开始”屏幕、用户头像)不满意,该如何更改个性化设置呢?下面就给大家介绍更改Windows8系统个性化设置的方法。请参考! 电脑锁屏头像怎么设置 鼠标滑到电…

【HDFS学习】配额与存储策略

配额与存储策略 文章目录 配额与存储策略配额Name QuotasSpace QuotasStorage Type Quotas管理命令Reporting 命令 档案存储存储类型与存储策略存储类型: ARCHIVE, DISK, SSD and RAM_DISK存储策略: Hot, Warm, Cold, All_SSD, One_SSD, Lazy_Persist and Provided存储策略的生…

java项目之高校四六级报名管理系统(ssm+jsp+mysql)

风定落花生,歌声逐流水,大家好我是风歌,混迹在java圈的辛苦码农。今天要和大家聊的是一款基于ssm的高校四六级报名管理系统。项目源码以及部署相关请联系风歌,文末附上联系信息 。 💕💕作者:风歌…

Visio安装

杂谈: 一般我们参加比赛、做实验,在写实验报告、说明书的时候,有时需要进行流程图,程序框图的绘制,使用word让人感觉心累,而Visio在这方面是非常专业的,也比较易上手。 资源:链接&am…