Spark實現全排序、二次排序

###############################################

數據如下：

年份：氣溫

2005 19
2005 40
2006 30
2008 50
2007 35

2007 32

1，spark實現全排序，即按照年份對數據升序排列，對以上的數據 實現的效果：

2005 19
2005 40
2006 30
2007 32
2007 35

2008 50

代碼：

import org.apache.spark.{SparkConf, SparkContext}

object WordCount {

  def main(args: Array[String]): Unit = {
    val conf = new SparkConf();
    conf.setMaster("local")
    conf.setAppName("wangjk")
    conf.set("spark.testing.memory", "2147480000")
    val sc = new SparkContext(conf);
    val r1=sc.textFile("file:///D:/docment/spark3.txt")
    val r2=r1.collect().sorted
   r2.foreach(println)



  }
}

2，spark實現二次排序

要求：1，年份升序  2，氣溫取當年的最高氣溫

效果如下：

(2005,40)
(2006,30)
(2007,35)
(2008,50)

代碼實現：

import org.apache.spark.{SparkConf, SparkContext}

object WordCount {

  def main(args: Array[String]): Unit = {
    val conf = new SparkConf();
    conf.setMaster("local")
    conf.setAppName("wangjk")
    conf.set("spark.testing.memory", "2147480000")
    val sc = new SparkContext(conf);
    val r1=sc.textFile("file:///D:/docment/spark3.txt")

    val r2=r1.map(e=>(e.split(" ")(0),e.split(" ")(1)))  //e 爲當前文本的一行，按照空格切開，成爲元組(2005,19)
      .map(e=>e._1->List(e._2))                           // 轉化成 2005->list(19)的map
      .reduceByKey(_:::_)                                 // 將相同的key的map聚合，2005->list(19,40)
      .map(e=>(e._1,e._2.sorted.reverse(0)) )             //將第二個元素 即list 進行排序、反轉成list(40,19),再取第一個元素，與年份組成元組
      .sortByKey()                                        //按照年份排序
      r2.foreach(println)



  }
}