05RDD

标签：lte   ast   word   键值   技术   image   http   文本文件   ext   

1. 读文本文件生成RDD lines
2. 将一行一行的文本分割成单词 words flatmap()
3. 全部转换为小写 lower()
4. 去掉长度小于3的单词 filter()
5. 去掉停用词
6. 转换成键值对 map()
7. 统计词频 reduceByKey()
8. 按字母顺序排序 sortBy(f)
9. 按词频排序 sortByKey()
10. 结果文件保存 saveAsTextFile(out_url)

     

     

     

     

     

     

     

     

     

     

     

     

     

     

     

     

     

     

    二、学生课程分数案例

    • 总共有多少学生？map(), distinct(), count()
    • 开设了多少门课程？
    • 每个学生选修了多少门课？map(), countByKey()
    • 每门课程有多少个学生选？map(), countByValue()
    • Tom选修了几门课？每门课多少分？filter(), map() RDD
    • Tom选修了几门课？每门课多少分？map(),lookup()  list
    • Tom的成绩按分数大小排序。filter(), map(), sortBy()
    • Tom的平均分。map(),lookup(),mean()
    • 求每门课的选修人数及平均分。combineByKey()

       

       

       

       

       

       

       

       

       

       

       

       

       

       

       

       

       

       

       

       

05RDD

标签：lte   ast   word   键值   技术   image   http   文本文件   ext   

原文地址：https://www.cnblogs.com/sangu/p/14676448.html