码迷,mamicode.com
首页 > 其他好文 > 详细

EMR问题

时间:2019-12-20 16:47:36      阅读:210      评论:0      收藏:0      [点我收藏+]

标签:height   连接   ons   news   RKE   stat   多个   src   ber   

参考:

https://dbaplus.cn/news-11-1983-1.html

 

 

1/连接参数

技术图片

 

 

hive.server2.thrift.min.worker.threads  5 

hive.server2.thrift.max.worker.threads    150

在emr中hive-hiveserver2-site中自定义添加

 

 

 2/ hive.driver.parallel.compilation参数默认为false,导致HS2只允许同时一个Query编译, 有操作元数据比较多的查询编译读取元数据会比较慢,全局锁会卡住所有其他查询。 需要设置为true,打开允许多个Query同时编译。

技术图片

 

 

hive-site:

hive.driver.parallel.compilation 这个参数可以设置为true

 

hive&hue优化

1、hue配置文件,修改max_number_of_sessions值大小,修改为10
[beeswax]
max_number_of_sessions=10
2、hue
hue的server_conn_timeout调大点
hive:
1、自定义hive配置中,增加这个属性:
hive.server2.parallel.ops.in.session=true
2、hive
将hiveserver2和mestatore的堆大小调大一些

 

3/ 字符集问题见mysql

4/ 队列问题见emr fair-scheduler

EMR问题

标签:height   连接   ons   news   RKE   stat   多个   src   ber   

原文地址:https://www.cnblogs.com/hongfeng2019/p/12073763.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!