1 作用
在數據庫中join
操作被稱為連接,作用是能連接多個表的數據(通過連接條件),從多個表中獲取數據合并在一起作為結果集返回給客戶端。例如:
表A:
id | name | age |
---|---|---|
1 | A | 18 |
2 | B | 19 |
3 | C | 20 |
表B:
id | uid | gender |
---|---|---|
1 | 1 | F |
2 | 2 | M |
通過連接可以獲取到合并兩個表的數據:
select A.*,B.gender from A left join B on A.id=B.uid
id | name | age | gender |
---|---|---|---|
1 | A | 18 | F |
2 | B | 19 | M |
3 | C | 20 | null |
2 連接關鍵字
連接兩個表我們可以用兩個關鍵字:on
,using
。on
可以指定具體條件,using
則指定相同名字和數據類型的列作為等值判斷的條件,多個則通過逗號隔開。
如下:
on: select * from A join B on A.id=B.id and B.name='' using: select * from A join B using(id,name) = select * from A join B on A.id=B.id and A.name=B.name
3 連接類型
3.1 內連接
內連接和交叉連接
- 語法:
A join | inner join | cross join B
- 表現:A和B滿足連接條件記錄的交集,如果沒有連接條件,則是A和B的笛卡爾積
- 特點:在MySQL中,
cross join
,inner join
和join
所實現的功能是一樣的。因此在MySQL的官方文檔中,指明了三者是等價的關系。
隱式連接
- 語法:
from A,B,C
- 表現:相當于無法使用
on
和using
的join
- 特點:逗號是隱式連接運算符。 隱式連接是SQL92中的標準內容,而在SQL99中顯式連接才是標準,雖然很多人還在用隱私連接,但是它已經從標準中被移除。從使用的角度來說,還是推薦使用顯示連接,這樣可以更清楚的顯示出多個表之間的連接關系和連接依賴的屬性。
3.2 外連接
左外連接
- 語法:
A left join B
- 表現:左表的數據全部保留,右表滿足連接條件的記錄展示,不滿足的條件的記錄則全是
null
右外連接
- 語法:
A right join B
- 表現:右表的數據全部保留,左表滿足連接條件的記錄展示,不滿足的條件的記錄則全是
null
全外連接
MySQL不支持全外連接,只支持左外連接和右外連接。如果要獲取全連接的數據,要可以通過合并左右外連接的數據獲取到,如 select * from A left join B on A.name = B.name union select * from A right join B on B.name = B.name;
。
這里union
會自動去重,這樣取到的就是全外連接的數據了。
3.3 自然連接
- 語法:
A natural join B ==== A natural left join B ==== A natural right join B
- 表現:相當于不能指定連接條件的連接,MySQL會使用左右表內相同名字和類型的字段作為連接條件。
- 特點:自然連接也分自然內連接,左外連接,右外連接,其表現和上面提到的一致,只是連接條件由MySQL自動判定。
4 執行順序
在連接過程中,MySQL各關鍵字執行的順序如下:
from -> on|using -> where -> group by -> having -> select -> order by -> limit
可以看到,連接的條件是先于where
的,也就是先連接獲得結果集后,才對結果集進行where
篩選,所以在使用join
的時候,我們要盡可能提供連接的條件,而少用where
的條件,這樣才能提高查詢性能。
5 連接算法
join
有三種算法,分別是Nested Loop Join
,Hash join
,Sort Merge Join
。MySQL官方文檔中提到,MySQL只支持Nested Loop Join
這一種算法。
具體來說Nested Loop Join
又分三種細分的算法:
- SNLJ
- BNLJ
- INLJ
我們來看下對于連接語句select * from A left join B on A.id=B.tid
,這三種算法是怎么連接的。
5.1 Simple Nested Loop Join(SNLJ)
SNLJ
是在沒有使用到索引的情況下,通過兩層循環全量掃描連接的兩張表,得到符合條件的兩條記錄則輸出。也就是讓兩張表做笛卡爾積進行掃描,是比較暴力的算法,會比較耗時。其過程如下:
for (a in A) { for (b in B) { if (a.id == b.tid) { output <a, b>; } } }
當然,MySQL即使在無索引可用,或者判斷全表掃描可能比使用索引更快的情況下,還是不會選擇使用過于粗暴的SNLJ
算法,而是采用下面的算法。
5.2 Block Nested Loop Join(BNLJ)
INLJ
是MySQL無法使用索引的時候采用的join
算法。會將外層循環的行分片存入join buffer
, 內層循環的每一行與整個buffer
中的記錄做比較,從而減少內層循環的次數,具體邏輯如下:
for (blockA in A.blocks) { for (b in B) { if (b.tid in blockA.id) { output <a, b>; } } }
相比于SNLJ
算法,BNLJ
算法通過外層循環的結果集的分塊,可以有效的減少內層循環的次數。
原理
舉例來說,外層循環的結果集是100行,使用SNLJ
算法需要掃描內部表100次,如果使用BNLJ
算法,假設每次分片的數量是10,則會先把對Outer Loop
表(外部表)每次讀取的10行記錄放到join buffer
,然后在InnerLoop
表(內部表)中每次循環都直接匹配這10行數據,這樣內層循環只需要10次,對內部表的掃描減少了9/10,所以BNLJ
算法就能夠顯著減少內層循環表掃描的次數。
當然這里,不管SNLJ
還是BNLJ
算法,他們總的比較次數都是一樣的,都是要拿外層循環的每一行與內層循環的每一行進行比較。
BNLJ
算法減少的是總的掃描行數,SNLJ
算法是外層循環要一行行掃描A
表的數據,然后取A.id
去表B
一行行掃描看是否匹配。而BNLJ
算法則是外層循環要一行行掃描A
表的數據,然后放到內存分塊里,然后去表B
一行行掃描,掃描出來的B
的一行數據與內存分塊里的A
的數據塊進行比較。這里可以一次就是很多行A
的數據與B
的數據進行比較,而且是在內存中進行比較,速度更加快了。
影響因素
這里BNLJ
算法總的掃描行數是由外層循環的數據量N
,和分塊數量K
還有內層循環的數據量M
決定的。其中分塊數量K
與外層循環的數據量N
又是息息相關的,我們可以表示為λN
,其中λ
取值為(0~1)
。則總掃描次數C=N+λNM
。
可以看出,在這個式子里,N
和λ
的大小都會影響掃描行數,但是λ
才是影響掃描行數的關鍵因素,這個值越小越好(除非N
和M
的差值非常大,這時候N
才會成為關鍵影響因素)。
那什么會影響 λ
的大小呢?那就是 MySQL的join_buffer_size
設置項的大小了。λ
和join_buffer_size
成倒數關系,join_buffer_size
越大,分塊越大,λ
越小,分塊數量也就越少,也就是外層循環的次數也越少。所以在使用不上索引的時候,我們要優先考慮擴大join_buffer_size
的大小,這樣優化效果會更明顯。而在能使用上索引的時候,MySQL會使用以下算法來進行join
。
5.3 Index Nested Loop Join(INLJ)
INLJ是MySQL判斷能使用到被驅動表的索引的情況下采用的算法。假設A
表的數據行為10,B
表的數據行為100,且B.tid
建立了索引,則對于select * from A left join B on A.id=B.tid
,MySQL會采用Index Nested Loop Join
。其過程如下:
for (a in A) { if (a.id in B.tid.Index) { output <a, tid.Index所在行>; } }
總共需要循環10次A
,每次循環的時候通過索引查詢一次B
的數據。而如果我們反過來是B left join A
的話,總共要循環100次B
,由此可見如果使用join的話,需要讓小表做驅動表,這樣才能有效減少循環次數。但是需要注意的是,這個結論的前提是可以使用被驅動表的索引。
INLJ內層循環讀取的是索引,可以減少內存循環的次數,提高join
效率,但是也有缺點的,就是如果掃描的索引是非聚簇索引,并且需要訪問非索引的數據,會產生一個回表讀取數據的操作,這就多了一次隨機的I/O操作。例如上面在索引里匹配到了tid
,還要去找tid
所在的行在磁盤所在的位置,具體可以見我以前的文章:MySQL索引詳解之索引的存儲方式。
6 注意點
- 盡量增加連接條件,減少
join
后數據集的大小 - 用小結果集驅動大結果集,將篩選結果小的表首先連接,再去連接結果集比較大的表
- 被驅動表的被
join
的字段要建立索引,且使用上索引。使用上索引包括使用該字段,且不會有索引失效的情況出現 - 設置足夠大的
join_buffer_size
7 外連接常見問題
Q:如果想篩選驅動表的數據,例如左連接篩選左表的數據,該在連接條件還是where
篩選?
A:要通過where
篩選,連接條件只影響連接過程,不影響連接返回的結果數(某些情況下連接條件會影響連接返回的結果數,例如左連接中,右側匹配的數據不唯一的時候)
Q:被驅動表匹配的數據行不唯一導致最終連接數據超過驅動表數據量該怎么辦?例如對于左連接,右表匹配的數據行不唯一。
A:join
之前先對被驅動表去重,例如通過group by
去重:A lef join (select * from B group by name)
。
相關學習推薦:mysql視頻教程