中国城商行信贷业务数仓建设白皮书(第一期:总体规划)

news/2025/2/7 3:34:50/

一、项目背景与行业现状

1.1 国内城商行信贷业务痛点
  • 2024年统计数据显示:全国134家城商行平均历史数据处理延迟达37小时/次

  • 传统Oracle架构日均处理能力上限仅为320万笔交易

  • 客户特征维度不足(现行系统平均维护86个客户标签)

  • 监管报表生成耗时超同业股份制银行2.3倍

1.2 Hive3.0技术优势解析
  • LLAP实时查询性能较Hive2提升17倍

  • 新的ACID事务支持实现分钟级数据可见

  • 动态分区优化使ETL任务失败率下降64%

  • 物化视图自动重写技术减少重复计算91%

二、整体技术架构设计

2.1 基础平台拓扑
                     ┌──────────────┐                    │  数据应用层   │                    │ (BI/风控/营销) │                    └──────┬───────┘                           ↓                 ┌──────────────────┐                 │   数据服务总线    │                 │  (HS2+Kerberos)  │                 └────────┬─────────┘                          ↓
┌───────┐        ┌──────────────────┐        ┌───────┐
│ 贴源层 │←───→│  Hive3.0数仓集群  │←───→│  备灾中心  │
│ (OGG) │   │   │ (Tez/LLAP/YARN)   │   │

http://www.ppmy.cn/news/1569974.html

相关文章

代码随想录二刷|回溯1

回溯 组合问题 方法 组合 题干 给定两个整数 n 和 k,返回范围 [1, n] 中所有可能的 k 个数的组合。 你可以按 任何顺序 返回答案。 思路 (1)定义全局变量数组,作为存放组合的数组和存放最终答案的数组 (2&…

二叉树03(数据结构初阶)

文章目录 一:实现链式结构二叉树1.1前中后序遍历1.1.1遍历规则1.1.2代码实现 1.2结点个数以及高度等1.2.1二叉树结点个数1.2.2二叉树叶子结点个数1.2.3二叉树第k层结点个数1.2.4二叉树的深度/高度1.2.5 二叉树查找值为x的结点1.2.6二叉树的销毁 1.3层序遍历1.4判断是…

【starrocks学习】之将starrocks表同步到hive

目录 方法 1:通过HDFS导出数据 1. 将StarRocks表数据导出到HDFS 2. 在Hive中创建外部表 3. 验证数据 方法 2:使用Apache Spark同步 1. 添加StarRocks和Hive的依赖 2. 使用Spark读取StarRocks数据并写入Hive 3. 验证数据 方法 3:通过…

20-30 五子棋游戏

20-分析五子棋的实现思路_哔哩哔哩_bilibili20-分析五子棋的实现思路是一次性学会 Canvas 动画绘图(核心精讲50个案例)2023最新教程的第21集视频,该合集共计53集,视频收藏或关注UP主,及时了解更多相关视频内容。https:…

电路研究9.2.6——合宙Air780EP中HTTP——HTTP GET 相关命令使用方法研究

这个也是一种协议类型: 14.16 使用方法举例 根据之前多种类似的协议的相关信息: HTTP/HTTPS:超文本传输协议(HTTP)用于Web数据的传输,而HTTPS是HTTP的安全版本,使用SSL/TLS进行加密。与FTP相比&…

在uniapp中修改打包路径

在uniapp中修改打包路径,主要涉及到对manifest.json文件的编辑。以下是详细的步骤: 1. 确定当前uniapp项目的打包配置位置 uniapp项目的打包配置通常位于项目的根目录下的manifest.json文件中。这个文件包含了项目的全局配置信息,包括应用的…

OSCP - Other Machines - sar2HTML

主要知识点 路径枚举cronjob提权 具体步骤 nmap扫描,只开了一个80端口 Starting Nmap 7.94SVN ( https://nmap.org ) at 2024-10-31 19:13 CST Nmap scan report for 172.16.33.13 Host is up (0.035s latency). Not shown: 65534 closed tcp ports (conn-refus…

吴恩达深度学习——优化神经网络

本文来自https://www.bilibili.com/video/BV1FT4y1E74V,仅为本人学习所用。 文章目录 优化样本大小mini-batch 优化梯度下降法动量梯度下降法指数加权平均概念偏差纠正 动量梯度下降法 RMSpropAdam优化算法 优化学习率局部最优问题(了解) 优…