Hive-testbench套件使用文档

news/2024/11/14 3:36:35/

Hive-testbench套件使用文档

hive-testbench 是hortonworks的一个开源项目,用于测试和基准测试 Apache Hive 的工具集。它提供了一系列的测试数据集和查询样例,用于评估和比较 Hive 在不同配置和环境下的性能。hive-testbench 的主要目标是模拟真实的大规模数据集和复杂查询场景,以帮助用户评估和优化 Hive 的性能。

hive-testbench 基于TPC-DS以及TPC-H进行封装,利用MapReduce的方式快速的生成指定数量的Hive基准测试数据,从几百兆到几十亿行的数据规模,以及包含多个表和复杂查询的查询样例。
说明:TPC-DS:是一个面向决策支持系统的包含多维度常规应用模型的决策支持基准,定义了 25 张表、99 个查询。TPC-H:用来评估在线分析处理的基准程序,主要模拟了供应商和采购商之间的交易行为,包含了 8 张表、22 个查询。

一、 开源版本编译与安装(已完成,可忽略,且本文编译版本已适配大数据平台)

1、 获取开源安装包
wget http://github.com/hortonworks/hive-testbench/archive/hdp3.zip
unzip hdp3.zip
2、 安装gcc
yum -y install gcc gcc-c++
3、 安装maven
此处不详述,记得要配置环境变量PATH。如果没有安装,则在编译hive-testbench时会自动帮你安装到当前的编译目录
4、 执行编译
./tpcds-build.sh
./tpch-build.sh

二、


http://www.ppmy.cn/news/1546040.html

相关文章

SpringBoot技术下的共享汽车运营平台

1系统概述 1.1 研究背景 随着计算机技术的发展以及计算机网络的逐渐普及,互联网成为人们查找信息的重要场所,二十一世纪是信息的时代,所以信息的管理显得特别重要。因此,使用计算机来管理共享汽车管理系统的相关信息成为必然。开发…

定义全局键盘监听事件,el-dialog中删除不可用

场景:全局的div增加了鼠标监听事件,而且window中添加了键盘监听事件。 window.addEventListener(keydown, this.handleKeydown) window.addEventListener(keyup, this.handleKeyup) 事件冒泡,导致阻止无效。 1、在 el-dialog 上同时阻止默…

ONLYOFFICE 8.2深度测评:集成PDF编辑、数据可视化与AI功能的强大办公套件

本文 一、文档编辑与PDF支持主要功能概述 二、数据可视化和增强的表格工具数据可视化功能亮点 三、AI驱动的摘要功能AI摘要功能优势 四、演示文稿的增强功能主要更新 五、协同办公能力的提升协同功能更新 六、跨平台兼容与开放文档格式跨平台与兼容性 七、安全性与隐私保护安全…

Flink转换算子

Apache Flink 是一个用于处理无界和有界数据的开源流处理框架。在 Flink 中,转换(Transformation)是数据流处理的核心组件之一,它们定义了如何从输入数据集生成输出数据集。以下是 Flink 中一些常见的转换算子: Map: 将…

【NLP】使用 SpaCy、ollama 创建用于命名实体识别的合成数据集

命名实体识别 (NER) 是自然语言处理 (NLP) 中的一项重要任务,用于自动识别和分类文本中的实体,例如人物、位置、组织等。尽管它很重要,但手动注释大型数据集以进行 NER 既耗时又费钱。受本文 ( https://huggingface.co/blog/synthetic-data-s…

谐振式DCDC设计与参数计算 - 笔记汇聚

技术问题 - 笔记目录 Q1.工作频点与切换频点是什么关系? 当考虑电路应对外部电压波动,和输出负载波动,需要选择最低增益点外侧的,以及最高增益与最最低增益的的增益顶点连线的上方区域——一句话:感性区域&#xff1…

Mysql基础 01 数据与sql

文章目录 一、基本概念二、mysql的常用命令三、sql规范四、数据类型五、SQL语句 一、基本概念 数据库(database,DB):存储数据的仓库。 数据库管理系统软件(Database Management System,DBMS):是一种操作和管理数据库的大型软件。常见的DBMS有oracle、s…

DataFrame

目录 一、创建DataFrame二、Sql语法三、DSL语法四、RDD与DataFrame互相转换 一、创建DataFrame 在SparkSql中SparkSession是创建DataFrame和执行Sql的入口,创建DataFrame有三种方式: 通过Spark的数据源进行创建 从一个存在的RDD进行转换 从Hive Tabl…