Hive常用命令

news/2025/1/8 7:32:12/

  1.hive模糊搜索表

show tables like '*name*';
ANALYZE TABLE tablename [PARTITION(partcol1[=val1], partcol2[=val2], ...)] COMPUTE STATISTICS [noscan];  


2.查看表结构信息

  desc formatted table_name;desc table_name;

3.查看分区信息

  show partitions table_name;

4.根据分区查询数据

  select table_coulm from table_name where partition_name = '2014-02-25';

5.查看hdfs文件信息

  dfs -ls /user/hive/warehouse/table02;

6.从文件加载数据进表(OVERWRITE覆盖,追加不需要OVERWRITE关键字)
 

 LOAD DATA LOCAL INPATH 'dim_csl_rule_config.txt' OVERWRITE into table dim.dim_csl_rule_config;--从查询语句给table插入数据INSERT OVERWRITE TABLE test_h02_click_log PARTITION(dt) select * from stage.s_h02_click_log where dt='2014-01-22' limit 100;

7.导出数据到文件
 

 insert overwrite directory '/tmp/csl_rule_cfg' select a.* from dim.dim_csl_rule_config a;hive -e "select day_id,pv,uv,ip_count,click_next_count,second_bounce_rate,return_visit,pg_type from tmp.tmp_h02_click_log_baitiao_ag_sum where day_id in ('2014-03-06','2014-03-07','2014-03-08','2014-03-09','2014-03-10');"> /home/jrjt/testan/baitiao.dat;

9.查询显示列名 及 行转列显示 

  set hive.cli.print.header=true; // 打印列名set hive.cli.print.row.to.vertical=true; // 开启行转列功能, 前提必须开启打印列名功能set hive.cli.print.row.to.vertical.num=1; // 设置每行显示的列数

10.查看表文件大小,下载文件到某个目录,显示多少行到某个文件

   dfs -du hdfs://BJYZH3-HD-JRJT-4137.jd.com:54310/user/jrjt/warehouse/stage.db/s_h02_click_log;dfs -get /user/jrjt/warehouse/ods.db/o_h02_click_log_i_new/dt=2014-01-21/000212_0 /home/jrjt/testan/;head -n 1000 文件名 > 文件名

11.杀死某个任务  不在hive shell中执行
 

 hadoop job -kill job_201403041453_58315

12.删除分区
 

  alter table tmp_h02_click_log_baitiao drop partition(dt='2014-03-01');alter table d_h02_click_log_basic_d_fact drop partition(dt='2014-01-17');


13.hive命令行操作
   执行一个查询,在终端上显示mapreduce的进度,执行完毕后,最后把查询结果输出到终端上,接着hive进程退出,不会进入交互模式。
   

hive -e 'select table_cloum from table'


   -S,终端上的输出不会有mapreduce的进度,执行完毕,只会把查询结果输出到终端上。这个静音模式很实用,,通过第三方程序调用,第三方程序通过hive的标准输出获取结果集。
   

hive -S -e 'select table_cloum from table'


   执行sql文件
 

  hive -f hive_sql.sql

14.hive上操作hadoop文件基本命令

    #查看文件大小dfs -du /user/jrjt/warehouse/tmp.db/tmp_h02_click_log/dt=2014-02-15;#删除文件dfs -rm /user/jrjt/warehouse/tmp.db/tmp_h02_click_log/dt=2014-02-15;

15.mapjoin的使用 应用场景:1.关联操作中有一张表非常小 2.不等值的链接操作
 

  select /*+ mapjoin(A)*/ f.a,f.b from A t join B f  on ( f.a=t.a and f.ftime=20110802) 

16.perl启动任务

   perl /home/jrjt/dwetl/APP/APP/A_H02_CLICK_LOG_CREDIT_USER/bin/a_h02_click_log_credit_user.pl APP_A_H02_CLICK_LOG_CREDIT_USER_20140215.dir >& /home/jrjt/dwetl/LOG/APP/20140306/a_h02_click_log_credit_user.pl.4.log

17.查看perl进程
 

  ps -ef|grep perl

18.hive命令移动表数据到另外一张表目录下并添加分区
 

 dfs -cp /user/jrjt/warehouse/tmp.db/tmp_h02_click_log/dt=2014-02-18 /user/jrjt/warehouse/ods.db/o_h02_click_log/;dfs -cp /user/jrjt/warehouse/tmp.db/tmp_h02_click_log_baitiao/* /user/jrjt/warehouse/dw.db/d_h02_click_log_baitiao_basic_d_fact/;--复制所有分区数据alter table d_h02_click_log_baitiao_basic_d_fact add partition(dt='2014-03-11') location '/user/jrjt/warehouse/dw.db/d_h02_click_log_baitiao_basic_d_fact/dt=2014-03-11';

19.导出白条数据
   

 hive -e "select day_id,pv,uv,ip_count,click_next_count,second_bounce_rate,return_visit,pg_type from tmp.tmp_h02_click_log_baitiao_ag_sum where day_id like '2014-03%';"> /home/jrjt/testan/baitiao.xlsx;

20.hive修改表名
   

 ALTER TABLE o_h02_click_log_i RENAME TO o_h02_click_log_i_bk;

21.hive复制表结构
 

   CREATE TABLE d_h02_click_log_baitiao_ag_sum LIKE tmp.tmp_h02_click_log_baitiao_ag_sum;

22.hive添加字段

   alter table tmp_h02_click_log_baitiao_ag_sum add columns(current_session_timelenth_count bigint comment '页面停留总时长');ALTER TABLE tmp_h02_click_log_baitiao CHANGE current_session_timelenth current_session_timelenth bigint comment '当前会话停留时间';

23.hive开启简单模式不启用mr

   set hive.fetch.task.conversion=more;

24.以json格式输出执行语句会读取的input table和input partition信息

   Explain dependency query  


   


http://www.ppmy.cn/news/46255.html

相关文章

重要公告 | 首批Moonbeam Accelerator孵化项目官宣

通过Moonbeam Accelerator计划,Arrington Capital和Borderless Capital将Moonbeam作为跨链创新的首选目的地 跨链互连应用的最佳去中心化开发平台Moonbeam很高兴宣布:在Rokk3r的运营之下,入选Moonbeam Accelerator计划的Web3初创公司首次亮相…

ArcGIS制作建设项目使用林地现状图

近年来,随着经济社会的快速发展,各地建设项目不断增多,占用征用林地项目的数量也呈逐年上升的趋势。根据《占用征用林地审核审批管理规范》规定,建设项目申请占用征用林地,应编制的项目使用林地可行性报告;…

【linux】 安装 java 环境

目录 1.检查linux 下是否安装java(jdk)环境2.查看 linux 的操作系统版本3.下载jdk4.新建java文件夹用于安装jdk5.将下载到本地的jdk压缩包上传到linux服务器6.配置环境变量 1.检查linux 下是否安装java(jdk)环境 可通过下面五条命令来查看linux 系统是否安装了java 环境 1、jav…

【云原生概念和技术】1.2 云原生技术概括(中)

如果想了解或者学习云原生的友友们,欢迎订阅哦~🤗,目前一周三更,努力码字中🧑‍💻…目前第一章是一些介绍和概念性的知识,可以先在脑海里有一个知识的轮廓,从第二章开始就…

DNS域名解析服务

目录 一、DNS的简介 1)DNS 数据结构分布 2)服务器的类型 3)DNS 域名解析方式 4)DNS的查询方式 递归查询 迭代查询 二、DNS配置 1)两台主从服务器进行配置操作 ​编辑 2)DNS主域名服务器配置&am…

鲸鱼算法原理

%参数初始化,初始时主要设置代理数量和最大迭代次数即可,其他算法相关的参数因为和当前迭代次数相关,需要在迭代中设置。 clc;clear; dim2;%变量的维数 SearchAgents_no30; % 搜索代理数量,种群中个体个数 Max_iteration500; % 最大迭代次数 …

百度飞桨paddlespeech实现小程序实时语音流识别

前言: 哈哈,这是我2023年4月份的公司作业。如果仅仅是简单的语音识别倒也没什么难度,wav文件直接走模型输出结果的事。可是注意标题,流式识别、实时! 那么不得不说一下流式的优点了。 1、解决内存溢出的烦恼。 2、…

网咯通信基础 - 数据交换方式

文章目录 1 概述2 分类2.1 电路交换2.2 报文交换2.3 分组交换 1 概述 2 分类 2.1 电路交换 图示:发送方和接收方用一系列链路直接连通数据传输划分:电路建立、数据传输 和 电路拆除 3 个过程原理:当交换机收到一个呼叫后就会在网络中寻找一…