拉鍊表：
維護歷史狀態，以及最新狀態數據的一種表，拉鍊表根據拉鍊粒度的不同，實際上相當於快照，只不過做了優化，去除了一部分不變的記錄，通過拉鍊表可以很方便的還原出拉鍊時點的客戶記錄。
數據倉庫的數據模型設計過程中，經常會遇到這樣的需求：
- 表中的部分字段會被update，例如：
- 用戶的地址，產品的描述信息，品牌信息等等;
- 需要查看某一個時間點或者時間段的歷史快照信息，例如：
- 查看某一個產品在歷史某一時間點的狀態
- 查看某一個用戶在過去某一段時間內，更新過幾次等等
- 變化的比例和頻率不是很大，例如：
- 總共有1000萬的會員，每天新增和發生變化的有10萬左右
商品歷史快照案例
需求：
有一個商品表：
|
列名 |
類型 |
說明 |
|
goods_id |
varchar(50) |
商品編號 |
|
goods_status |
varchar(50) |
商品狀態（待審覈、待售、在售、已刪除） |
|
createtime |
varchar(50) |
商品創建日期 |
|
modifytime |
varchar(50) |
商品修改日期 |
2019年12月20日的數據如下所示：
|
goods_id |
goods_status |
createtime |
modifytime |
|
001 |
待審覈 |
2019-12-20 |
2019-12-20 |
|
002 |
待售 |
2019-12-20 |
2019-12-20 |
|
003 |
在售 |
2019-12-20 |
2019-12-20 |
|
004 |
已刪除 |
2019-12-20 |
2019-12-20 |
商品的狀態，會隨着時間推移而變化，我們需要將商品的所有變化的歷史信息都保存下來。如何實現呢？
方案一：快照每一天的數據到數倉
該方案爲：
- 每一天都保存一份全量，將所有數據同步到數倉中
- 很多記錄都是重複保存，沒有任何變化
12月20日（4條數據）
|
goods_id |
goods_status |
createtime |
modifytime |
|
001 |
待審覈 |
2019-12-18 |
2019-12-20 |
|
002 |
待售 |
2019-12-19 |
2019-12-20 |
|
003 |
在售 |
2019-12-20 |
2019-12-20 |
|
004 |
已刪除 |
2019-12-15 |
2019-12-20 |
12月21日（10條數據）
|
goods_id |
goods_status |
createtime |
modifytime |
|
以下爲12月20日快照數據 |
|
|
|
|
001 |
待審覈 |
2019-12-18 |
2019-12-20 |
|
002 |
待售 |
2019-12-19 |
2019-12-20 |
|
003 |
在售 |
2019-12-20 |
2019-12-20 |
|
004 |
已刪除 |
2019-12-15 |
2019-12-20 |
|
以下爲12月21日快照數據 |
|
|
|
|
001 |
待售（從待審覈到待售） |
2019-12-18 |
2019-12-21 |
|
002 |
待售 |
2019-12-19 |
2019-12-20 |
|
003 |
在售 |
2019-12-20 |
2019-12-20 |
|
004 |
已刪除 |
2019-12-15 |
2019-12-20 |
|
005（新商品） |
待審覈 |
2019-12-21 |
2019-12-21 |
|
006（新商品） |
待審覈 |
2019-12-21 |
2019-12-21 |
12月22日（18條數據）
|
goods_id |
goods_status |
createtime |
modifytime |
|
以下爲12月20日快照數據 |
|
|
|
|
001 |
待審覈 |
2019-12-18 |
2019-12-20 |
|
002 |
待售 |
2019-12-19 |
2019-12-20 |
|
003 |
在售 |
2019-12-20 |
2019-12-20 |
|
004 |
已刪除 |
2019-12-15 |
2019-12-20 |
|
以下爲12月21日快照數據 |
|
|
|
|
001 |
待售（從待審覈到待售） |
2019-12-18 |
2019-12-21 |
|
002 |
待售 |
2019-12-19 |
2019-12-20 |
|
003 |
在售 |
2019-12-20 |
2019-12-20 |
|
004 |
已刪除 |
2019-12-15 |
2019-12-20 |
|
005 |
待審覈 |
2019-12-21 |
2019-12-21 |
|
006 |
待審覈 |
2019-12-21 |
2019-12-21 |
|
以下爲12月22日快照數據 |
|
|
|
|
001 |
待售 |
2019-12-18 |
2019-12-21 |
|
002 |
待售 |
2019-12-19 |
2019-12-20 |
|
003 |
已刪除（從在售到已刪除） |
2019-12-20 |
2019-12-22 |
|
004 |
待審覈 |
2019-12-21 |
2019-12-21 |
|
005 |
待審覈 |
2019-12-21 |
2019-12-21 |
|
006 |
已刪除（從待審覈到已刪除） |
2019-12-21 |
2019-12-22 |
|
007 |
待審覈 |
2019-12-22 |
2019-12-22 |
|
008 |
待審覈 |
2019-12-22 |
2019-12-22 |
方案一：MySQL到Hive數倉代碼實現
MySQL&Hive初始化
1、在MySQL demo庫中 創建表
-- 創建數據庫
create database if not exists demo;
-- 創建商品表
create table if not exists `demo`.`t_product`(
goods_id varchar(50), -- 商品編號
goods_status varchar(50), -- 商品狀態
createtime varchar(50), -- 商品創建時間
modifytime varchar(50) -- 商品修改時間
);
2、在Hive中 demo庫創建表
-- 創建表
create database if not exists `demo`;
-- 創建ods層表
create table if not exists `demo`.`ods_product`(
goods_id string, -- 商品編號
goods_status string, -- 商品狀態
createtime string, -- 商品創建時間
modifytime string -- 商品修改時間
)
partitioned by (dt string)
row format delimited fields terminated by ',' stored as TEXTFILE;
-- 創建dw層表
create table if not exists `demo`.`dw_product`(
goods_id string, -- 商品編號
goods_status string, -- 商品狀態
createtime string, -- 商品創建時間
modifytime string -- 商品修改時間
)
partitioned by (dt string)
row format delimited fields terminated by ',' stored as TEXTFILE;
增量導入12月20日數據
1、MySQL數據庫導入12月20日數據（4條數據）
insert into `demo`.`t_product`(goods_id, goods_status, createtime, modifytime) values
('001', '待審覈', '2019-12-18', '2019-12-20'),
('002', '待售', '2019-12-19', '2019-12-20'),
('003', '在售', '2019-12-20', '2019-12-20'),
('004', '已刪除', '2019-12-15', '2019-12-20');
2、使用Kettle將MySQL數據導出，並導入到分區HDFS位置
Kettle轉換流程圖
創建Hive分區
-- 創建分區
alter table `demo`.`ods_product` add if not exists partition (dt='2019-12-20');
表輸入
Hadoop File output
3、Hive中查詢數據
select * from `demo`.`ods_product`
4、數據導入維度表
insert overwrite table `demo`.`dw_product` partition(dt='2019-12-20')
select
goods_id,
goods_status,
createtime,
modifytime
from `demo`.`ods_product` where dt='2019-12-20';
增量導入12月21日數據
1、MySQL數據庫導入12月21日數據（6條數據）
UPDATE `demo`.`t_product` SET goods_status = '待售', modifytime = '2019-12-21' WHERE goods_id = '001';
INSERT INTO `demo`.`t_product`(goods_id, goods_status, createtime, modifytime) VALUES
('005', '待審覈', '2019-12-21', '2019-12-21'),
('006', '待審覈', '2019-12-21', '2019-12-21');
2、運行Kettle轉換，導入2019年12月21日數據
3、Hive查詢數據
select * from `demo`.`ods_product` where dt='2019-12-21';
4、數據導入dw層表
insert overwrite table `demo`.`dw_product` partition(dt='2019-12-21')
select
goods_id,
goods_status,
createtime,
modifytime
from `demo`.`ods_product` where dt='2019-12-21';
增量導入12月22日數據
1、MySQL數據庫導入12月22日數據（6條數據）
UPDATE `demo`.`t_product` SET goods_status = '已刪除', modifytime = '2019-12-22' WHERE goods_id = '003';
UPDATE `demo`.`t_product` SET goods_status = '已刪除', modifytime = '2019-12-22' WHERE goods_id = '006';
INSERT INTO `demo`.`t_product`(goods_id, goods_status, createtime, modifytime) VALUES
('007', '待審覈', '2019-12-22', '2019-12-22'),
('008', '待審覈', '2019-12-22', '2019-12-22');
2、運行Kettle轉換，導入2019年12月22日數據
3、Hive查詢數據
select * from ods_product where dt='2019-12-22';
4、數據導入dw層表
insert overwrite table `demo`.`dw_product` partition(dt='2019-12-22')
select
goods_id,
goods_status,
createtime,
modifytime
from `demo`.`ods_product` where dt='2019-12-22';
從上述案例，可以看到：
- 表每天保留一份全量，每次全量中會保存很多不變的信息，如果數據量很大的話，對存儲是極大的浪費
可以將表設計爲拉鍊表，既能滿足反應數據的歷史狀態，又可以最大限度地節省存儲空間
方案二：使用拉鍊表保存歷史快照思路
拉鍊表
- 拉鍊表不存儲冗餘的數據，只有某行的數據發生變化，才需要保存下來，相比每次全量同步會節省存儲空間
- 能夠查詢到歷史快照
- 額外的增加了兩列（dw_start_date、dw_end_date），爲數據行的生命週期
12月20日商品拉鍊表的數據：
|
goods_id |
goods_status |
createtime |
modifytime |
dw_start_date |
dw_end_date |
|
001 |
待審覈 |
2019-12-18 |
2019-12-20 |
2019-12-20 |
9999-12-31 |
|
002 |
待售 |
2019-12-19 |
2019-12-20 |
2019-12-20 |
9999-12-31 |
|
003 |
在售 |
2019-12-20 |
2019-12-20 |
2019-12-20 |
9999-12-31 |
|
004 |
已刪除 |
2019-12-15 |
2019-12-20 |
2019-12-20 |
9999-12-31 |
- 12月20日的數據是全新的數據導入到dw表
- dw_start_date表示某一條數據的生命週期起始時間，即數據從該時間開始有效（即生效日期）
- dw_end_date表示某一條數據的生命週期結束時間，即數據到這一天（不包含）（即失效日期）
- dw_end_date爲9999-12-31，表示當前這條數據是最新的數據，數據到9999-12-31才過期
12月21日商品拉鍊表的數據
|
goods_id |
goods_status |
createtime |
modifytime |
dw_start_date |
dw_end_date |
|
001 |
待審覈 |
2019-12-18 |
2019-12-20 |
2019-12-20 |
2019-12-21 |
|
002 |
待售 |
2019-12-19 |
2019-12-20 |
2019-12-20 |
9999-12-31 |
|
003 |
在售 |
2019-12-20 |
2019-12-20 |
2019-12-20 |
9999-12-31 |
|
004 |
已刪除 |
2019-12-15 |
2019-12-20 |
2019-12-20 |
9999-12-31 |
|
001（變） |
待售 |
2019-12-18 |
2019-12-21 |
2019-12-21 |
9999-12-31 |
|
005（新） |
待審覈 |
2019-12-21 |
2019-12-21 |
2019-12-21 |
9999-12-31 |
|
006（新） |
待審覈 |
2019-12-21 |
2019-12-21 |
2019-12-21 |
9999-12-31 |
- 拉鍊表中沒有存儲冗餘的數據，（只要數據沒有變化，無需同步）
- 001編號的商品數據的狀態發生了變化（從待審覈 → 待售），需要將原有的dw_end_date從9999-12-31變爲2019-12-21，表示待審覈狀態，在2019/12/20（包含） - 2019/12/21（不包含）有效
- 001編號新的狀態重新保存了一條記錄，dw_start_date爲2019/12/21，dw_end_date爲9999/12/31
- 新數據005、006、dw_start_date爲2019/12/21，dw_end_date爲9999/12/31
12月22日商品拉鍊表的數據
|
goods_id |
goods_status |
createtime |
modifytime |
dw_start_date |
dw_end_date |
|
001 |
待審覈 |
2019-12-18 |
2019-12-20 |
2019-12-20 |
2019-12-21 |
|
002 |
待售 |
2019-12-19 |
2019-12-20 |
2019-12-20 |
9999-12-31 |
|
003 |
在售 |
2019-12-20 |
2019-12-20 |
2019-12-20 |
2019-12-22 |
|
004 |
已刪除 |
2019-12-15 |
2019-12-20 |
2019-12-20 |
9999-12-31 |
|
001 |
待售 |
2019-12-18 |
2019-12-21 |
2019-12-21 |
9999-12-31 |
|
005 |
待審覈 |
2019-12-21 |
2019-12-21 |
2019-12-21 |
9999-12-31 |
|
006 |
待審覈 |
2019-12-21 |
2019-12-21 |
2019-12-21 |
9999-12-31 |
|
003（變） |
已刪除 |
2019-12-20 |
2019-12-22 |
2019-12-22 |
9999-12-31 |
|
007（新） |
待審覈 |
2019-12-22 |
2019-12-22 |
2019-12-22 |
9999-12-31 |
|
008（新） |
待審覈 |
2019-12-22 |
2019-12-22 |
2019-12-22 |
9999-12-31 |
- 003編號的商品數據的狀態發生了變化（從在售→已刪除），需要將原有的dw_end_date從9999-12-31變爲2019-12-22，表示在售狀態，在2019/12/20（包含） - 2019/12/22（不包含）有效
- 003編號新的狀態重新保存了一條記錄，dw_start_date爲2019/12/22，dw_end_date爲9999/12/31
- 新數據007、008、dw_start_date爲2019/12/22，dw_end_date爲9999/12/31
方案二：拉鍊表存儲歷史快照代碼實現
操作步驟：
- 在原有dw層表上，添加額外的兩列
- 生效日期（dw_start_date）
- 失效日期（dw_end_date）
- 只同步當天修改的數據到ods層
- 拉鍊表算法實現
- 編寫SQL處理當天最新的數據（新添加的數據和修改過的數據）
- 編寫SQL處理dw層歷史數據，重新計算之前的dw_end_date
- 拉鍊表的數據爲：當天最新的數據 UNION ALL 歷史數據
代碼實現：
1、MySQL&Hive表初始化
MySQL創建商品表2
-- 創建數據庫
create database if not exists demo;
-- 創建商品表
create table if not exists `demo`.`t_product_2`(
goods_id varchar(50), -- 商品編號
goods_status varchar(50), -- 商品狀態
createtime varchar(50), -- 商品創建時間
modifytime varchar(50) -- 商品修改時間
);
Hive ODS層建表
-- 創建表
create database if not exists `demo`;
-- 創建ods層表
create table if not exists `demo`.`ods_product_2`(
goods_id string, -- 商品編號
goods_status string, -- 商品狀態
createtime string, -- 商品創建時間
modifytime string -- 商品修改時間
)
partitioned by (dt string)
row format delimited fields terminated by ',' stored as TEXTFILE;
Hive dw層創建拉鍊表
-- 創建拉鍊表
create table if not exists `demo`.`dw_product_2`(
goods_id string, -- 商品編號
goods_status string, -- 商品狀態
createtime string, -- 商品創建時間
modifytime string, -- 商品修改時間
dw_start_date string, -- 生效日期
dw_end_date string -- 失效日期
)
row format delimited fields terminated by ',' stored as TEXTFILE;
全量導入2019年12月20日數據
1、MySQL數據庫導入12月20日數據（4條數據）
insert into `demo`.`t_product_2`(goods_id, goods_status, createtime, modifytime) values
('001', '待審覈', '2019-12-18', '2019-12-20'),
('002', '待售', '2019-12-19', '2019-12-20'),
('003', '在售', '2019-12-20', '2019-12-20'),
('004', '已刪除', '2019-12-15', '2019-12-20');
2、使用Kettle進行全量同步MySQL數據到Hive ods層表
Kettle組件圖
設置命名參數
創建Hive分區
-- 創建分區
alter table `demo`.`ods_product_2` add if not exists partition (dt='${dt}');
表輸入
SELECT
*
FROM t_product_2
where modifytime <= '${dt}'
Hadoop File Ouput
3、編寫SQL從ods導入dw當天最新的數據
-- 從ods層導入dw當天最新數據
insert overwrite table `demo`.`dw_product_2`
select
goods_id, -- 商品編號
goods_status, -- 商品狀態
createtime, -- 商品創建時間
modifytime, -- 商品修改時間
modifytime as dw_start_date, -- 生效日期
'9999-12-31' as dw_end_date -- 失效日期
from
`demo`.`ods_product_2`
where
dt = '2019-12-20';
增量導入2019年12月21日數據
1、MySQL數據庫導入12月21日數據（6條數據）
UPDATE `demo`.`t_product_2` SET goods_status = '待售', modifytime = '2019-12-21' WHERE goods_id = '001';
INSERT INTO `demo`.`t_product_2`(goods_id, goods_status, createtime, modifytime) VALUES
('005', '待審覈', '2019-12-21', '2019-12-21'),
('006', '待審覈', '2019-12-21', '2019-12-21');
2、使用Kettle開發增量同步MySQL數據到Hive ods層表
Hive創建分區
-- 創建分區
alter table `demo`.`ods_product_2` add if not exists partition (dt='${dt}');
表輸入讀取MySQL數據
SELECT
*
FROM t_product_2
where modifytime = '${dt}'
3、編寫SQL處理dw層歷史數據，重新計算之前的dw_end_date
-- 重新計算dw層拉鍊表中的失效時間
select
t1.goods_id, -- 商品編號
t1.goods_status, -- 商品狀態
t1.createtime, -- 商品創建時間
t1.modifytime, -- 商品修改時間
t1.dw_start_date, -- 生效日期（生效日期無需重新計算）
case when (t2.goods_id is not null and t1.dw_end_date > '2019-12-21')
then '2019-12-21'
else t1.dw_end_date -- 小的是以前修改的，不用修改，只修改9999-12-31的數據
end as dw_end_date -- 更新生效日期（需要重新計算）
from
`demo`.`dw_product_2` t1
left join
(select * from `demo`.`ods_product_2` where dt='2019-12-21') t2
on t1.goods_id = t2.goods_id
6、合併當天最新的數據和歷史數據到
insert overwrite table `demo`.`dw_product_2`
select
t1.goods_id, -- 商品編號
t1.goods_status, -- 商品狀態
t1.createtime, -- 商品創建時間
t1.modifytime, -- 商品修改時間
t1.dw_start_date, -- 生效日期（生效日期無需重新計算）
case when (t2.goods_id is not null and t1.dw_end_date > '2019-12-21')
then '2019-12-21'
else t1.dw_end_date
end as dw_end_date -- 更新生效日期（需要重新計算）
from
`demo`.`dw_product_2` t1
left join
(select * from `demo`.`ods_product_2` where dt='2019-12-21') t2
on t1.goods_id = t2.goods_id
union all
select
goods_id, -- 商品編號
goods_status, -- 商品狀態
createtime, -- 商品創建時間
modifytime, -- 商品修改時間
modifytime as dw_start_date, -- 生效日期
'9999-12-31' as dw_end_date -- 失效日期
from
`demo`.`ods_product_2` where dt='2019-12-21' -- 只有新增和修改的數據
order by dw_start_date, goods_id;
查詢拉鍊表
1、獲取2019-12-20日的歷史快照數據
select * from demo.dw_product_2 where dw_start_date <= '2019-12-20' and dw_end_date > '2019-12-20' order by goods_id;
2、獲取最新的商品快照數據
select * from demo.dw_product_2 where dw_end_date = '9999-12-31' order by goods_id;