码迷,mamicode.com
首页 > 数据库 > 详细

Spark sql 在yarn-cluster模式下找不到表

时间:2017-01-11 22:12:37      阅读:48      评论:0      收藏:0      [点我收藏+]

标签:orm   cloud   lov   master   --   article   tail   jar   模式   

在hive里建一个数据库test,在数据库里建了一张表user,然后在Spark程序中使用Spark sql读取这张表

"select * form test.user"

当部署模式是spark stand模式和yarn-client模式时,程序可以正常运行,但yarn-cluster模式就报了找不到“test.user”表的错误。

解决办法:

spark和hive整合,把hive-site.xml加到spark根目录的conf下,所以,要在提交Spark任务的时候,要把hive-site.xml加到--files

示例:spark版本是2.0.1

spark-submit --class cn.XXX.XX.XXX --master yarn --deploy-mode cluster  --executor-memory 5g --num-executors 5  --files /data/hive-1.2.1/conf/hive-site.xml  test.jar 

参考:

http://blog.csdn.net/baiyangfu_love/article/details/40402743

在yarn-cluster模式下,原本在设置好的应用名就不生效,这个加--name参数解决:

spark-submit --class cn.XXX.XX.XXX --master yarn --deploy-mode cluster  --executor-memory 5g --num-executors 5 --name test --files /data/hive-1.2.1/conf/hive-site.xml  test.jar 

导致这个问题的主要原因是,yarn-client和yarn-cluster模式在提交任务时setAppName的执行顺序不同导致,yarn-client中setAppName是在向yarn注册Application之前读取,yarn-cluser模式则是在向yarn注册Application之后读取,这就导致yarn-cluster模式设置的应用名不生效。

参考:http://support.hwclouds.com/usermanual-mrs/zh-cn_topic_0036027341.html

 

Spark sql 在yarn-cluster模式下找不到表

标签:orm   cloud   lov   master   --   article   tail   jar   模式   

(0)
(0)
   
举报
评论 一句话评论(0
0条  
登录后才能评论!
© 2014 mamicode.com 版权所有 京ICP备13008772号-2
迷上了代码!