odps

2024/9/23 22:31:41

在dataworks 中开发 pyodps作业使用 weasyprint 将html 转换成 PNG

背景 之前计算出每日top15存储量临时表,将表名、存储量、最后修改日期等关键信息通过 Markdown 的形式发送到企微群中,触达开发人员,使其及时清理以节省存储资源;但是 Markdown 格式看上去很乱,增加阅读成本&#xff…

DataWorks+MaxCompute跨年取日期所在周的问题

一、背景 一些数据分析业务需求中,如订单金额、订单数量,时间粒度需要统计到周,如周同比,周环比。 一般我们都会事先创建一个类似如下的时间维度表。 实验SQL环境:DataWorks MaxCompute dim_date表清单: …

【大数据】-- 插入或覆写动态分区数据(MaxCompute/Hive)

1、Maxcompute 问题:在一些业务场景中,我们需要插入动态分区数据(DYNAMIC PARTITION),如何实现? 答:实现如下 -- 1、开启全表扫描 set odps.sql.allow.fullscan=true; -- 2、使用一条 SQL 实现 insert overwrite table your_table_name_01 partition(partition_name)…

深入InnoDB核心:揭秘B+树在数据库索引中的高效应用

目录 一、索引页与数据行的紧密关联 (一)数据页的双向链表结构 (二)记录行的单向链表结构 二、未创建索引情况 (一)无索引下的单页查找过程 以主键为搜索条件 以非主键列为搜索条件 (二…

【Maxcompute】实现根据gps数据计算停留点udaf函数

1.梳理、总结经纬度处理在Maxcompute平台上的实战应用,如根据gps轨迹数据计算停留点信息。 2.欢迎批评指正,跪谢一键三连! 文章目录 1.参考代码1.参考代码 #!/usr/bin/env python # coding: utf-8import numpy as np from odps.udf import annotate from odps.udf import Ba…

maxcompute使用篇

文章目录 maxcompute使用篇1.mongoDB与maxcompute 进行数据同步1.1 基本类型的数据1.2部分复杂类型的数据 2.maxcompute中复杂数据类型解析2.1 get_json_object2.2 json_tuple2.3 处理json几种失效的情况:2.4 STR_TO_MAP、MAP_KEYS2.5 regexp_replace2.6 FROM_JSON2.7 nvl2.8 t…

阿里MAXCOMPUTE数据专辑信息读取并同步数据表

阿里MAXCOMPUTE数据专辑信息读取并同步数据表 在阿里云大数据体系中,我们可以使用数据地图的数据专辑,对数据的类别等进行一个管理 那么管理后的数据,我们想要落表进行相关的数据分析,如何做呢? 查看阿里云官方文档…

【maxcompute|ODPS|SQL|HSQL】日期数据非标准日期格式(yyyy/M/d),如何转为yyyy-MM-dd HH:mm:ss标准格式

SQL中的日期数据转换真是一个复杂多变的问题啊! 一、需求及问题描述 在日常开发中,我们会遇到时间戳与标准日期格式之间的转换,两个日期差,及日期加加减减,想必大家都已经非常熟悉了 题主最近接到一个需求&#xff…

深入InnoDB核心:揭秘B+树在数据库索引中的高效应用

目录 一、索引页与数据行的紧密关联 (一)数据页的双向链表结构 (二)记录行的单向链表结构 二、未创建索引情况 (一)无索引下的单页查找过程 以主键为搜索条件 以非主键列为搜索条件 (二…

【大数据】-- 插入或覆写动态分区数据(MaxCompute/Hive)

1、Maxcompute 问题:在一些业务场景中,我们需要插入动态分区数据(DYNAMIC PARTITION),如何实现? 答:实现如下 -- 1、开启全表扫描 set odps.sql.allow.fullscan=true; -- 2、使用一条 SQL 实现 insert overwrite table your_table_name_01 partition(partition_name)…

AIOps与生成式人工智能的结合

AIOps(智能化运维)与生成式人工智能(如ChatGPT等GenAI模型)的结合是近期运维领域的一个重要热点。这种结合不仅提升了运维的智能化水平,还拓宽了AIOps的应用范围,为企业带来了诸多好处。以下是对AIOps与生成…