數據文件是:rownumbertest.txt
字段信息是:id,sex,age,name
1,男,18,張三
2,女,18,李四
3,女,20,王五
4,男,18,趙六
5,男,18,劉七
6,男,19,石九
7,男,38,黃渤
8,女,22,劉嘉玲
9,女,23,王菲
10,女,28,劉亦菲
11,女,18,趙麗穎
用戶信息表
create database if not exists hive_test;
use hive_test;
drop table if exists rownumbertest;
create table rownumbertest(id int, sex string, age int, name string) row format delimited fields terminated by ",";
load data local inpath "/home/hadoop/rownumbertest.txt" into table rownumbertest;
select * from rownumbertest;
數據結果展示:
id sex age name rank
1 男 18 張三 3
2 女 18 李四 5
3 女 20 王五 4
4 男 18 趙六 3
5 男 18 劉七 3
6 男 19 石九 2
7 男 38 黃渤 1
8 女 22 劉嘉玲 3
9 女 23 王菲 2
10 女 28 劉亦菲 1
11 女 18 趙麗穎 5
需求:每種性別人羣中,年齡最大的兩個人,TopN的需求:分組取前幾
核心思路:
如果能實現一個操作:
把每一條記錄再對應的組中的編號如果能生成出來的話。那麼下面的這個SQL能很容易的求出結果
select * from rownumbertest where rank <= 2;
distribute by 和 sort by 搭配使用
select a.id, a.sex, a.age, a.name, row_number() over(distribute by a.sex sort by
a.age desc) as rank from rownumbertest a;
partition by 和 order by 搭配使用
select id, sex, age, name, row_number() over (partition by sex order by age desc) as
index from rownumbertest;
結果:
+-----+-----+------+-------+--------+
| id | xb | age | name | index |
+-----+-----+------+-------+--------+
| 10 | 女 | 28 | 劉亦菲 | 1 |
| 9 | 女 | 23 | 王菲 | 2 |
| 8 | 女 | 22 | 劉嘉玲 | 3 |
| 3 | 女 | 20 | 王五 | 4 |
| 11 | 女 | 18 | 趙麗穎 | 5 |
| 2 | 女 | 18 | 李四 | 6 |
| 7 | 男 | 38 | 黃渤 | 1 |
| 6 | 男 | 19 | 石九 | 2 |
| 5 | 男 | 18 | 劉七 | 3 |
| 4 | 男 | 18 | 趙六 | 4 |
| 1 | 男 | 18 | 張三 | 5 |
+-----+-----+------+-------+--------+
SQL語句:
select * from (select id, sex, age, name, row_number() over (partition by sex order
by age desc) as index from rownumbertest) abc where abc.index <= 3;
結果:
+---------+---------+----------+-----------+------------+
| abc.id | abc.xb | abc.age | abc.name | abc.index |
+---------+---------+----------+-----------+------------+
| 10 | 女 | 28 | 劉亦菲 | 1 |
| 9 | 女 | 23 | 王菲 | 2 |
| 8 | 女 | 22 | 劉嘉玲 | 3 |
| 7 | 男 | 38 | 黃渤 | 1 |
| 6 | 男 | 19 | 石九 | 2 |
| 5 | 男 | 18 | 劉七 | 3 |
+---------+---------+----------+-----------+------------+