第六章：数据工程（6.3数据治理和建模--6.4数据仓库和数据资源）

6.3数据治理

6.3.1 元数据

数据治理是开展数据价值化活动的基础，

6.3.2 数据标准化

数据标准化的主要内容包括元数据标准化、数据元标准化、数据模式标准化和数据分类与编码标准化

数据标准化阶段的具体过程包括确定数据需求、制定数据标准、批准数据标准和实施数据标准

6.3.3 数据质量

衡量数据质量的指标体系包括完整性、规范性、一致性、准确性、唯一性、及时性等。

数据质量描述:数据质量可以通过数据质量元素来描述

数据质量元素分为数据质量定量元素和数据质量非定量元素

数据质量评价方法分为：直接评价法和间接评价法

数据产品的质量控制分为：前期控制和后期控制

6.3.4 数据模型

数据模型	描述
概念模型	`不依赖于具体的计算机系统也不对应某个具体的DBMS`，它是概念级别的模型
逻辑模型	逻辑模型是在概念模型的基础上`确定模型的数据结构，`目前主要的数据结构有`层次模型、网状模型、关系模型、面向对象模型和对象关系模型。`其中，`关系模型成为目前最重要的一种逻辑数据模型`
物理模型	物理数据模型是在逻辑数据模型的基础上，考虑各种具体的技术实现因素，进行`数据库体系结构设计`，真正实现`数据在数据库中的存放。`

6.3.5 数据建模

数据建模的过程包括: 数据需求分析、概念模型设计、逻辑模型设计和物理模型设计等

数据建模的过程	描述
数据需求分析	分析用户对数据的需要和要求。数据需求分析是数据建模的起点
概念模型设计	需求分析得到的结果抽象为概念模型的过程，任务是`确定实体和数据及其关联`
逻辑模型设计	转换为关系模型结构中的关系模式
物理模型设计	对具体的DBMS进行物理模型设计，使数据模型走向数据存储应用环节

6.4 数据仓库和数据资产

6.4.1 数据仓库

数据仓库是一个面向主题的、集成的、随时间变化的、包含汇总和明细的、稳定的历史数据集合。
数据仓库通常由数据源、数据的存储与管理、OLAP服务器、前端工具等组件构成。

数据仓库组件	描述
数据源	`数据源`是数据仓库系统的`基础`
数据的存储与管理	整个数据仓库系统的`核心`
OLAP服务器	`以便进行多角度、多层次的分析，并发现趋势` 可以分为:ROLAP(关系数据的关系在线分析处理)、MOLAP(多维在线分析处理)和HOLAP(混合在线分析处理)
前端工具	`前端工具`主要包括各种`报表工具、查询工具、数据分析工具、数据挖掘工具`以及各种基于数据仓库或数据集市的应用开发工具。其中数据分析工具主要针对OLAP服务器，报表工具、数据挖掘工具主要针对数据仓库

6.4.2 主题库

主题库建设可采用多层级体系结构，即数据源层、构件层、主题库层

层名称	描述
数据源层	存放`各种管理表和数据的各类数据表`
构件层	构件层包括`基础构件和组合构件`
主题库层	按业务需求通过构建组合，形成`具有统一访问接口的主题库`