千锋大数据培训课程之Hive配置总结
# ------------------配置相关--------------------------
0. 配置存储
在$HOME目录下的.hiverc文件中
1. 在提示符中显示数据库名
set hive.cli.print.current.db=true;
2. 优先使用本地模式执行
set hive.exec.mode.loacl.auto=true;
3. 打印列名
set hive.cli.print.header=true;
4. (非)严格模式
set hive.mapred.mode=strict;
set hive.mapred.mode=nonstrict;
5. 开启动态分区
set hive.exec.dynamic.partition=true;
# --------------动态分区调整--------------------
6.-- 设置动态分区模式
set hive.exec.dynamic.partition.mode=strict
7.设置总的动态分区个数
set hive.exec.max.dynamic.partitions=300000
8.设置每个节点上动态分区个数
set hive.exec.max.dynamic.partitions.pernode=10000
9. 设置全局可以产生文件的个数
set hive.exec.max.created.files=100000;
10.开启map site join
set hive.auto.convert.join=true;
11.设置小表大小(字节)
set hive.mapjoin.smalltable.filesize=25000000
12.强制将数据按照桶结构定义来插入数据
set hive.enforce.bucketing=true
13.limit优化
-- 启用limit优化
set hive.limit.optimize.enable=true;
-- 限制从最大多少条数据中进行limit
set hive.limit.row.max.size=10000;
-- 限制最多遍历的文件个数
set hive.limit.optimize.limit.file=10;
14. 压缩
--开启中间压缩(即map到reduce之间的数据压缩)
set hive.exec.compress.intermediate=true;
-- 开启hadoop中间压缩(即map到reduce之间的数据压缩)
set mapred.compress.map.output=true;
-- 开启hive最终压缩(即reduce输出的数据压缩)
set hive.exec.compress.output=true;
15. 数据仓库的存储地址
hive-default.xml中,不一般不同
<property>
<name>hive.metastore.warehouse.dir</name>
<value>/user/hive/warehouse</value>
<description>location of default database for the warehouse</description>
</property>
更多千锋大数据培训课程学习资料内容请关注千锋官网!
猜你喜欢LIKE
相关推荐HOT
更多>>前端开发是做什么的?学会了好就业吗
前端开发是现在非常热火的一个词,但是很多人并不了解前端开发是做什么的,其实如果对于网页制作有了解的学员,会发现前端开发有很多关于网页制...详情>>
2023-02-09 15:39:51java开发用什么软件比较靠谱?有哪些常用的
随着互联网的加速发展,java开发也成了当前时代的热门行业之一,很多人都想通过学习java开发技术,开拓新的就业渠道,帮助自己实现财富增值,但...详情>>
2023-02-08 14:48:59杭州python培训完工资怎么样?
Python开发哪里都说好,但是到底有多好呢?小千今天就来带大家拿数据看一下杭州的Python开发能拿到多少的工资。详情>>
2020-12-09 14:16:00杭州python培训机构面授多少钱?
有在杭州的小伙伴想要了解一下本地的面授Python培训班需要多少钱的学费,这里小千就来给大家介绍一下,以供大家在挑选培训班的时候参考。详情>>
2020-12-04 14:25:00热门推荐
5种方法教你如何利用新媒体进行内容营销和产品推广
沸Java培训一般需要多久?课程结束学不会怎么办?
热编程培训一般多少钱?怎么选择编程培训学校?
热学习python有什么用?常见用途介绍
新java和python的区别?java和python各自的优势是什么
ui设计分为哪几种?分别有什么特点
python培训费用要多少,哪家培训质量更高
学程序员大概多少钱?到哪里学比较好
计算机学前端好还是后端好?需不需要去培训
前端开发培训需要多长时间?去哪里培训好
前端开发工程师需要学什么?怎么学
web前端能干一辈子吗?到哪里培训比较好
现在学前端开发靠谱吗?需不需要去培训
前端培训班一般多少钱?营销价格的因素有哪些