partitoner筆記

//1.3 指定分區類
		job.setPartitionerClass(KpiPartitioner.class);
		job.setNumReduceTasks(3);

	static class KpiPartitioner extends HashPartitioner<Text, KpiWritable>{
		@Override
		public int getPartition(Text key, KpiWritable value, int numReduceTasks) {
			if(key.toString().length()==11){
				return 0;
			}else if(key.toString().length()==10){
				return 1;
			}else{
				return 2;
			}
			
		}
	}

 分區的例子必須打成jar運行

    job.setJarByClass(KpiApp.class);


 用處:    1.根據業務需要,產生多個輸出文件

                    2.多個reduce任務在運行,提高整體job的運行效率


1.Partitioner是partitioner的基類,如果需要定製partitioner也需要繼承該類。

2.  HashPartitioner是mapreduce的默認partitioner。計算方法是

which reducer=(key.hashCode() &Integer.MAX_VALUE) % numReduceTasks,得到當前的目的reducer。




發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章