码迷,mamicode.com
首页 > 数据库 > 详细

3 分钟快速体验 Apache Spark SQL

时间:2014-07-29 14:35:08      阅读:308      评论:0      收藏:0      [点我收藏+]

标签:blog   http   strong   数据   2014   问题   代码   ar   

“War of the Hadoop SQL engines. And the winner is …?” 这是个很好的问题。不过,无论答案如何,我们都值得花一点时间了解一下 Spark SQL 这个 Spark 家族里面的成员。 本来Apache Spark SQL 官网上的代码片断(Spark官网上的例子有个通病:不提供完整代码)已经写得算比较清楚,但如果用户完全把它的代码拷贝下来,可能会碰到编译不通过的问题。另外,Spark官网上的例子还有另外一个通病:不提供test data。因此,为了大家能不走弯路、快速体验Spark SQL API,本文将展示一个改写自官网例子的小程序,以及运行结果。


[A 程序]

bubuko.com,布布扣


[B 测试数据]

product.data:

bubuko.com,布布扣

[C 执行]

用 spark-submit 将程序提交到Yarn上执行。

[D 执行结果]

- Console:

bubuko.com,布布扣

- Yarn Web Console:

bubuko.com,布布扣

- Yarn App Log:

bubuko.com,布布扣


[E 小结]

- 注意需要把内部类 Product 定义在main方法外面,否则会引起编译错误

- 直接利用Spark SQL API定义一个“表对象”(SchemaRDD)还是比较简单的

- 下一步可以试一试和 HiveQL的集成

3 分钟快速体验 Apache Spark SQL,布布扣,bubuko.com

3 分钟快速体验 Apache Spark SQL

标签:blog   http   strong   数据   2014   问题   代码   ar   

原文地址:http://blog.csdn.net/samhacker/article/details/38184663

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!