Oracle快速刪除重複的記錄

http://www.chinaitpower.com/2006Aug/2006-10-07/216980.html

做項目的時候，一位同事導數據的時候，不小心把一個表中的數據全都搞重了，也就是說，這個表裏所有的記錄都有一條重複的。這個表的數據是千萬級的，而且是生產系統。也就是說，不能把所有的記錄都刪除，而且必須快速的把重複記錄刪掉。

對此，總結了一下刪除重複記錄的方法，以及每種方法的優缺點。

爲了陳訴方便，假設表名爲Tbl，表中有三列col1，col2，col3，其中col1，col2是主鍵，並且，col1，col2上加了索引。

1、通過創建臨時表

可以把數據先導入到一個臨時表中，然後刪除原表的數據，再把數據導回原表，SQL語句如下：

creat table tbl_tmp (select distinct* from tbl);truncate table tbl;
            //清空表記錄insert into tbl select * from tbl_tmp;//將臨時表中的數據插回來。

這種方法可以實現需求，但是很明顯，對於一個千萬級記錄的表，這種方法很慢，在生產系統中，這會給系統帶來很大的開銷，不可行。

2、利用rowid

在oracle中，每一條記錄都有一個rowid，rowid在整個數據庫中是唯一的，rowid確定了每條記錄是oracle中的哪一個數據文件、塊、行上。在重複的記錄中，可能所有列的內容都相同，但rowid不會相同。SQL語句如下：

delete from tbl where rowid in (select a.rowid from tbl a,
            tbl b where a.rowid>b.rowid and a.col1=b.col1 and a.col2 = b.col2) 

如果已經知道每條記錄只有一條重複的，這個sql語句適用。但是如果每條記錄的重複記錄有N條，這個N是未知的，就要考慮適用下面這種方法了。

3、利用max或min函數

這裏也要使用rowid，與上面不同的是結合max或min函數來實現。SQL語句如下

delete from tbl awhere rowid not in (select max(b.rowid)
            from tbl b where a.col1=b.col1 and a.col2 = b.col2);
            //這裏max使用min也可以 

或者用下面的語句

delete from tbl awhere rowid<(select max(b.rowid)
            from tbl b where a.col1=b.col1 and a.col2 = b.col2);
            //這裏如果把max換成min的話，前面的where子句中需要把"<"改爲">" 

跟上面的方法思路基本是一樣的，不過使用了group by，減少了顯性的比較條件，提高效率。SQL語句如下：

deletefrom tbl where rowid not in (select max(rowid)
            from tbl tgroup by t.col1, t.col2);delete from tbl where (col1, col2)
            in (select col1,col2 from tblgroup bycol1,col2havingcount(*)
            >1)and rowidnotin(selectnin(rowid)fromtblgroup bycol1,
            col2havingcount(*) >1) 

還有一種方法，對於表中有重複記錄的記錄比較少的，並且有索引的情況，比較適用。假定col1，col2上有索引，並且tbl表中有重複記錄的記錄比較少，SQL語句如下4、利用group by，提高效率