千锋教育-做有情怀、有良心、有品质的职业教育机构

400-811-9990
手机站
千锋教育

千锋学习站 | 随时随地免费学

千锋教育

扫一扫进入千锋手机站

领取全套视频
千锋教育

关注千锋学习站小程序
随时随地免费学习课程

上海
  • 北京
  • 郑州
  • 武汉
  • 成都
  • 西安
  • 沈阳
  • 广州
  • 南京
  • 深圳
  • 大连
  • 青岛
  • 杭州
  • 重庆
当前位置:杭州千锋IT培训  >  行业资讯  >  千锋大数据培训课程之Hive配置总结

千锋大数据培训课程之Hive配置总结

来源:千锋教育
发布人:千锋老师
时间: 2018-09-12 15:50:00

# ------------------配置相关--------------------------

0. 配置存储

$HOME目录下的.hiverc文件中

1. 在提示符中显示数据库名

set hive.cli.print.current.db=true;

2. 优先使用本地模式执行

set hive.exec.mode.loacl.auto=true;

3. 打印列名

set hive.cli.print.header=true;

4. (非)严格模式

set hive.mapred.mode=strict;

set hive.mapred.mode=nonstrict;

5. 开启动态分区

set hive.exec.dynamic.partition=true;

# --------------动态分区调整--------------------

6.-- 设置动态分区模式

set hive.exec.dynamic.partition.mode=strict

7.设置总的动态分区个数

set hive.exec.max.dynamic.partitions=300000

8.设置每个节点上动态分区个数

set hive.exec.max.dynamic.partitions.pernode=10000

 

9. 设置全局可以产生文件的个数

set hive.exec.max.created.files=100000;

10.开启map site join

set hive.auto.convert.join=true;

11.设置小表大小(字节)

set hive.mapjoin.smalltable.filesize=25000000

12.强制将数据按照桶结构定义来插入数据

set hive.enforce.bucketing=true

 

13.limit优化

-- 启用limit优化

set hive.limit.optimize.enable=true;

-- 限制从最大多少条数据中进行limit

set hive.limit.row.max.size=10000;

-- 限制最多遍历的文件个数

set hive.limit.optimize.limit.file=10;

 

14. 压缩

--开启中间压缩(即map到reduce之间的数据压缩)

set hive.exec.compress.intermediate=true;

-- 开启hadoop中间压缩(即map到reduce之间的数据压缩)

set mapred.compress.map.output=true;

-- 开启hive最终压缩(即reduce输出的数据压缩)

set hive.exec.compress.output=true;

 

15. 数据仓库的存储地址

hive-default.xml中,不一般不同

<property>

<name>hive.metastore.warehouse.dir</name>

<value>/user/hive/warehouse</value>

<description>location of default database for the warehouse</description>

</property>

更多千锋大数据培训课程学习资料内容请关注千锋官网!

声明:本站稿件版权均属千锋教育所有,未经许可不得擅自转载。

猜你喜欢LIKE

5种方法教你如何利用新媒体进行内容营销和产品推广

2023-04-25

编程培训一般多少钱?怎么选择编程培训学校?

2023-03-07

前端开发培训需要多长时间?去哪里培训好

2023-02-16

最新文章NEW

Java培训一般需要多久?课程结束学不会怎么办?

2023-03-13

ui设计分为哪几种?分别有什么特点

2023-02-28

计算机学前端好还是后端好?需不需要去培训

2023-02-16

相关推荐HOT

更多>>

快速通道 更多>>

最新开班信息 更多>>

网友热搜 更多>>