《MySQL實戰45講》讀後感 34|到底可不可以使用join?

在實際生產中,關於 join 語句使用的問題,一般會集中在以下兩類:

  1. 我們 DBA 不讓使用 join,使用 join 有什麼問題呢?
  2. 如果有兩個大小不同的表做 join,應該用哪個表做驅動表呢?

今天這篇文章,我就先跟你說說 join 語句到底是怎麼執行的,然後再來回答這兩個問題。

爲了便於量化分析,我還是創建兩個表 t1 和 t2 來和你說明。

CREATE TABLE `t2` (
  `id` int(11) NOT NULL,
  `a` int(11) DEFAULT NULL,
  `b` int(11) DEFAULT NULL,
  PRIMARY KEY (`id`),
  KEY `a` (`a`)
) ENGINE=InnoDB;
 
drop procedure idata;
delimiter ;;
create procedure idata()
begin
  declare i int;
  set i=1;
  while(i<=1000)do
    insert into t2 values(i, i, i);
    set i=i+1;
  end while;
end;;
delimiter ;
call idata();
 
create table t1 like t2;
insert into t1 (select * from t2 where id<=100)

可以看到,這兩個表都有一個主鍵索引 id 和一個索引 a,字段 b 上無索引。存儲過程 idata() 往表 t2 裏插入了 1000 行數據,在表 t1 裏插入的是 100 行數據。

Index Nested-Loop Join

我們來看一下這個語句:

select * from t1 straight_join t2 on (t1.a=t2.a);

如果直接使用 join 語句,MySQL 優化器可能會選擇表 t1 或 t2 作爲驅動表,這樣會影響我們分析 SQL 語句的執行過程。所以,爲了便於分析執行過程中的性能問題,我改用 straight_join 讓 MySQL 使用固定的連接方式執行查詢,這樣優化器只會按照我們指定的方式去 join。在這個語句裏,t1 是驅動表,t2 是被驅動表。

現在,我們來看一下這條語句的 explain 結果。

在這裏插入圖片描述
圖 1 使用索引字段 join 的 explain 結果

可以看到,在這條語句裏,被驅動表 t2 的字段 a 上有索引,join 過程用上了這個索引,因此這個語句的執行流程是這樣的:

  1. 從表 t1 中讀入一行數據 R;
  2. 從數據行 R 中,取出 a 字段到表 t2 裏去查找;
  3. 取出表 t2 中滿足條件的行,跟 R組成一行,作爲結果集的一部分;
  4. 重複執行步驟 1 到3,直到表 t1 的末尾循環結束。

這個過程是先遍歷表 t1,然後根據從表 t1 中取出的每行數據中的 a 值,去表 t2 中查找滿足條件的記錄。在形式上,這個過程就跟我們寫程序時的嵌套查詢類似,並且可以用上被驅動表的索引,所以我們稱之爲“Index Nested-Loop Join”,簡稱 NLJ。

它對應的流程圖如下所示:

在這裏插入圖片描述
圖 2 Index Nested-Loop Join 算法的執行流程
在這個流程裏:

  1. 對驅動表 t1 做了全表掃描,這個過程需要掃描 100 行;
  2. 而對於每一行 R,根據 a 字段去表 t2 查找,走的是樹搜索過程。由於我們構造的數據都是一一對應的,因此每次的搜索過程都只掃描一行,也是總共掃描 100 行;
  3. 所以,整個執行流程,總掃描行數是 200。

現在我們知道了這個過程,再試着回答一下文章開頭的兩個問題。

先看第一個問題:能不能使用 join?

假設不使用 join,那我們就只能用單表查詢。我們看看上面這條語句的需求,用單表查詢怎麼實現。

  1. 執行select * from t1,查出表 t1 的所有數據,這裏有 100 行;
  2. 循環遍歷這 100 行數據:
    • 從每一行 R 取出字段 a 的值 $R.a;
    • 執行select * from t2 where a=$R.a;
    • 把返回的結果和 R 構成結果集的一行。

可以看到,在這個查詢過程,也是掃描了 200 行,但是總共執行了 101 條語句,比直接 join 多了 100 次交互。除此之外,客戶端還要自己拼接 SQL 語句和結果。

顯然,這麼做還不如直接 join 好。

我們再來看看第二個問題:怎麼選擇驅動表?

在這個 join 語句執行過程中,驅動表是走全表掃描,而被驅動表是走樹搜索。

假設被驅動表的行數是 M。每次在被驅動表查一行數據,要先搜索索引 a,再搜索主鍵索引。每次搜索一棵樹近似複雜度是以 2 爲底的 M 的對數,記爲 log2M,所以在被驅動表上查一行的時間複雜度是 2*log2M。

假設驅動表的行數是 N,執行過程就要掃描驅動表 N 行,然後對於每一行,到被驅動表上匹配一次。

因此整個執行過程,近似複雜度是 N + N2log2M。

顯然,N 對掃描行數的影響更大,因此應該讓小表來做驅動表。

如果你沒覺得這個影響有那麼“顯然”, 可以這麼理解:N 擴大 1000 倍的話,掃描行數就會擴大 1000 倍;而 M 擴大 1000 倍,掃描行數擴大不到 10 倍。
到這裏小結一下,通過上面的分析我們得到了兩個結論:

  • 使用 join 語句,性能比強行拆成多個單表執行 SQL 語句的性能要好;
  • 如果使用 join 語句的話,需要讓小表做驅動表。

但是,你需要注意,這個結論的前提是“可以使用被驅動表的索引”。

接下來,我們再看看被驅動表用不上索引的情況。

Simple Nested-Loop Join

現在,我們把 SQL 語句改成這樣:

select * from t1 straight_join t2 on (t1.a=t2.b);

由於表 t2 的字段 b 上沒有索引,因此再用圖 2 的執行流程時,每次到 t2 去匹配的時候,就要做一次全表掃描。

你可以先設想一下這個問題,繼續使用圖 2 的算法,是不是可以得到正確的結果呢?如果只看結果的話,這個算法是正確的,而且這個算法也有一個名字,叫做“Simple Nested-Loop Join”。

但是,這樣算來,這個 SQL 請求就要掃描表 t2 多達 100 次,總共掃描 100*1000=10 萬行。

這還只是兩個小表,如果 t1 和 t2 都是 10 萬行的表(當然了,這也還是屬於小表的範圍),就要掃描 100 億行,這個算法看上去太“笨重”了。

當然,MySQL 也沒有使用這個 Simple Nested-Loop Join 算法,而是使用了另一個叫作“Block Nested-Loop Join”的算法,簡稱 BNL。

Block Nested-Loop Join

這時候,被驅動表上沒有可用的索引,算法的流程是這樣的:

  • 把表 t1 的數據讀入線程內存 join_buffer 中,由於我們這個語句中寫的是 select *,因此是把整個表 t1 放入了內存;
  • 掃描表 t2,把表 t2 中的每一行取出來,跟 join_buffer 中的數據做對比,滿足 join 條件的,作爲結果集的一部分返回。
    這個過程的流程圖如下:
    在這裏插入圖片描述
    圖 3 Block Nested-Loop Join 算法的執行流程
    對應地,這條 SQL 語句的 explain 結果如下所示:
    在這裏插入圖片描述
    圖 4 不使用索引字段 join 的 explain 結果

可以看到,在這個過程中,對錶 t1 和 t2 都做了一次全表掃描,因此總的掃描行數是 1100。由於 join_buffer 是以無序數組的方式組織的,因此對錶 t2 中的每一行,都要做 100 次判斷,總共需要在內存中做的判斷次數是:100*1000=10 萬次。

前面我們說過,如果使用 Simple Nested-Loop Join 算法進行查詢,掃描行數也是 10 萬行。因此,從時間複雜度上來說,這兩個算法是一樣的。但是,Block Nested-Loop Join 算法的這 10 萬次判斷是內存操作,速度上會快很多,性能也更好。

接下來,我們來看一下,在這種情況下,應該選擇哪個表做驅動表。

假設小表的行數是 N,大表的行數是 M,那麼在這個算法裏:

  1. 兩個表都做一次全表掃描,所以總的掃描行數是 M+N;
  2. 內存中的判斷次數是 M*N。

可以看到,調換這兩個算式中的 M 和 N 沒差別,因此這時候選擇大表還是小表做驅動表,執行耗時是一樣的。

然後,你可能馬上就會問了,這個例子裏表 t1 才 100 行,要是表 t1 是一個大表,join_buffer 放不下怎麼辦呢?

join_buffer 的大小是由參數 join_buffer_size 設定的,默認值是 256k。如果放不下表 t1 的所有數據話,策略很簡單,就是分段放。我把 join_buffer_size 改成 1200,再執行:

select * from t1 straight_join t2 on (t1.a=t2.b);

執行過程就變成了:

  1. 掃描表 t1,順序讀取數據行放入 join_buffer 中,放完第 88 行 join_buffer 滿了,繼續第 2 步;
  2. 掃描表 t2,把 t2 中的每一行取出來,跟 join_buffer 中的數據做對比,滿足 join 條件的,作爲結果集的一部分返回;
  3. 清空 join_buffer;
  4. 繼續掃描表 t1,順序讀取最後的 12 行數據放入 join_buffer 中,繼續執行第 2 步。
    執行流程圖也就變成這樣:
    在這裏插入圖片描述
    圖 5 Block Nested-Loop Join – 兩段

圖中的步驟 4 和 5,表示清空 join_buffer 再複用。

這個流程才體現出了這個算法名字中“Block”的由來,表示“分塊去 join”。

可以看到,這時候由於表 t1 被分成了兩次放入 join_buffer 中,導致表 t2 會被掃描兩次。雖然分成兩次放入 join_buffer,但是判斷等值條件的次數還是不變的,依然是 (88+12)*1000=10 萬次。

我們再來看下,在這種情況下驅動表的選擇問題。

假設,驅動表的數據行數是 N,需要分 K 段才能完成算法流程,被驅動表的數據行數是 M。

注意,這裏的 K 不是常數,N 越大 K 就會越大,因此把 K 表示爲λ*N,顯然λ的取值範圍是 (0,1)。

所以,在這個算法的執行過程中:

  • 掃描行數是 N+λNM;
  • 內存判斷 N*M 次。
    顯然,內存判斷次數是不受選擇哪個表作爲驅動表影響的。而考慮到掃描行數,在 M 和 N 大小確定的情況下,N 小一些,整個算式的結果會更小。

所以結論是,應該讓小表當驅動表。

當然,你會發現,在 N+λNM 這個式子裏,λ纔是影響掃描行數的關鍵因素,這個值越小越好。

剛剛我們說了 N 越大,分段數 K 越大。那麼,N 固定的時候,什麼參數會影響 K 的大小呢?(也就是λ的大小)答案是 join_buffer_size。join_buffer_size 越大,一次可以放入的行越多,分成的段數也就越少,對被驅動表的全表掃描次數就越少。

這就是爲什麼,你可能會看到一些建議告訴你,如果你的 join 語句很慢,就把 join_buffer_size 改大。

理解了 MySQL 執行 join 的兩種算法,現在我們再來試着回答文章開頭的兩個問題。

第一個問題:能不能使用 join 語句?

如果可以使用 Index Nested-Loop Join 算法,也就是說可以用上被驅動表上的索引,其實是沒問題的;
如果使用 Block Nested-Loop Join 算法,掃描行數就會過多。尤其是在大表上的 join 操作,這樣可能要掃描被驅動表很多次,會佔用大量的系統資源。所以這種 join 儘量不要用。
所以你在判斷要不要使用 join 語句時,就是看 explain 結果裏面,Extra 字段裏面有沒有出現“Block Nested Loop”字樣。

第二個問題是:如果要使用 join,應該選擇大表做驅動表還是選擇小表做驅動表?

  • 如果是 Index Nested-Loop Join 算法,應該選擇小表做驅動表;
  • 如果是 Block Nested-Loop Join 算法:
  • 在 join_buffer_size 足夠大的時候,是一樣的;
  • 在 join_buffer_size 不夠大的時候(這種情況更常見),應該選擇小表做驅動表。

所以,這個問題的結論就是,總是應該使用小表做驅動表。

當然了,這裏我需要說明下,什麼叫作“小表”。

我們前面的例子是沒有加條件的。如果我在語句的 where 條件加上 t2.id<=50 這個限定條件,再來看下這兩條語句:

select * from t1 straight_join t2 on (t1.b=t2.b) where t2.id<=50;
select * from t2 straight_join t1 on (t1.b=t2.b) where t2.id<=50;

注意,爲了讓兩條語句的被驅動表都用不上索引,所以 join 字段都使用了沒有索引的字段 b。

但如果是用第二個語句的話,join_buffer 只需要放入 t2 的前 50 行,顯然是更好的。所以這裏,“t2 的前 50 行”是那個相對小的表,也就是“小表”。

我們再來看另外一組例子:

select t1.b,t2.* from  t1  straight_join t2 on (t1.b=t2.b) where t2.id<=100;
select t1.b,t2.* from  t2  straight_join t1 on (t1.b=t2.b) where t2.id<=100;

這個例子裏,表 t1 和 t2 都是隻有 100 行參加 join。但是,這兩條語句每次查詢放入 join_buffer 中的數據是不一樣的:

  • 表 t1 只查字段 b,因此如果把 t1 放到 join_buffer 中,則 join_buffer 中只需要放入 b 的值;
  • 表 t2 需要查所有的字段,因此如果把表 t2 放到 join_buffer 中的話,就需要放入三個字段 id、a 和 b。

這裏,我們應該選擇表 t1 作爲驅動表。也就是說在這個例子裏,“只需要一列參與 join 的表 t1”是那個相對小的表。

所以,更準確地說,在決定哪個表做驅動表的時候,應該是兩個表按照各自的條件過濾,過濾完成之後,計算參與 join 的各個字段的總數據量,數據量小的那個表,就是“小表”,應該作爲驅動表。

小結

今天,我和你介紹了 MySQL 執行 join 語句的兩種可能算法,這兩種算法是由能否使用被驅動表的索引決定的。而能否用上被驅動表的索引,對 join 語句的性能影響很大。

通過對 Index Nested-Loop Join 和 Block Nested-Loop Join 兩個算法執行過程的分析,我們也得到了文章開頭兩個問題的答案:

  • 如果可以使用被驅動表的索引,join 語句還是有其優勢的;
  • 不能使用被驅動表的索引,只能使用 Block Nested-Loop Join 算法,這樣的語句就儘量不要使用;
  • 在使用 join 的時候,應該讓小表做驅動表。

最後,又到了今天的問題時間。

我們在上文說到,使用 Block Nested-Loop Join 算法,可能會因爲 join_buffer 不夠大,需要對被驅動表做多次全表掃描。

我的問題是,如果被驅動表是一個大表,並且是一個冷數據表,除了查詢過程中可能會導致 IO 壓力大以外,你覺得對這個 MySQL 服務還有什麼更嚴重的影響嗎?(這個問題需要結合上一篇文章的知識點)

在這裏插入圖片描述

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章