在MySQL中,有很多看上去邏輯相同,但性能卻差異巨大的SQL語句。對這些語句使用不當?shù)脑?,就會不?jīng)意間導致整個數(shù)據(jù)庫的壓力變大。
我今天挑選了三個這樣的案例和你分享。希望再遇到相似的問題時,你可以做到舉一反三、快速解決問題。
假設你現(xiàn)在維護了一個交易系統(tǒng),其中交易記錄表tradelog包含交易流水號(tradeid)、交易員id(operator)、交易時間(t_modified)等字段。為了便于描述,我們先忽略其他字段。這個表的建表語句如下:
mysql> CREATE TABLE `tradelog` ( `id` int(11) NOT NULL, `tradeid` varchar(32) DEFAULT NULL, `operator` int(11) DEFAULT NULL, `t_modified` datetime DEFAULT NULL, PRIMARY KEY (`id`), KEY `tradeid` (`tradeid`), KEY `t_modified` (`t_modified`)) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4;
假設,現(xiàn)在已經(jīng)記錄了從2016年初到2018年底的所有數(shù)據(jù),運營部門有一個需求是,要統(tǒng)計發(fā)生在所有年份中7月份的交易記錄總數(shù)。這個邏輯看上去并不復雜,你的SQL語句可能會這么寫:
mysql> select count(*) from tradelog where month(t_modified)=7;
由于t_modified字段上有索引,于是你就很放心地在生產(chǎn)庫中執(zhí)行了這條語句,但卻發(fā)現(xiàn)執(zhí)行了特別久,才返回了結果。
如果你問DBA同事為什么會出現(xiàn)這樣的情況,他大概會告訴你:如果對字段做了函數(shù)計算,就用不上索引了,這是MySQL的規(guī)定。
現(xiàn)在你已經(jīng)學過了InnoDB的索引結構了,可以再追問一句為什么?為什么條件是where t_modified='2018-7-1’的時候可以用上索引,而改成where month(t_modified)=7的時候就不行了?
下面是這個t_modified索引的示意圖。方框上面的數(shù)字就是month()函數(shù)對應的值。
如果你的SQL語句條件用的是where t_modified='2018-7-1’的話,引擎就會按照上面綠色箭頭的路線,快速定位到 t_modified='2018-7-1’需要的結果。
實際上,B+樹提供的這個快速定位能力,來源于同一層兄弟節(jié)點的有序性。
但是,如果計算month()函數(shù)的話,你會看到傳入7的時候,在樹的第一層就不知道該怎么辦了。
也就是說,對索引字段做函數(shù)操作,可能會破壞索引值的有序性,因此優(yōu)化器就決定放棄走樹搜索功能。
需要注意的是,優(yōu)化器并不是要放棄使用這個索引。
在這個例子里,放棄了樹搜索功能,優(yōu)化器可以選擇遍歷主鍵索引,也可以選擇遍歷索引t_modified,優(yōu)化器對比索引大小后發(fā)現(xiàn),索引t_modified更小,遍歷這個索引比遍歷主鍵索引來得更快。因此最終還是會選擇索引t_modified。
接下來,我們使用explain命令,查看一下這條SQL語句的執(zhí)行結果。
key="t_modified"表示的是,使用了t_modified這個索引;我在測試表數(shù)據(jù)中插入了10萬行數(shù)據(jù),rows=100335,說明這條語句掃描了整個索引的所有值;Extra字段的Using index,表示的是使用了覆蓋索引。
也就是說,由于在t_modified字段加了month()函數(shù)操作,導致了全索引掃描。為了能夠用上索引的快速定位能力,我們就要把SQL語句改成基于字段本身的范圍查詢。按照下面這個寫法,優(yōu)化器就能按照我們預期的,用上t_modified索引的快速定位能力了。
mysql> select count(*) from tradelog where -> (t_modified >= '2016-7-1' and t_modified<'2016-8-1') or -> (t_modified >= '2017-7-1' and t_modified<'2017-8-1') or -> (t_modified >= '2018-7-1' and t_modified<'2018-8-1');
當然,如果你的系統(tǒng)上線時間更早,或者后面又插入了之后年份的數(shù)據(jù)的話,你就需要再把其他年份補齊。
到這里我給你說明了,由于加了month()函數(shù)操作,MySQL無法再使用索引快速定位功能,而只能使用全索引掃描。
不過優(yōu)化器在個問題上確實有“偷懶”行為,即使是對于不改變有序性的函數(shù),也不會考慮使用索引。比如,對于select * from tradelog where id + 1 = 10000這個SQL語句,這個加1操作并不會改變有序性,但是MySQL優(yōu)化器還是不能用id索引快速定位到9999這一行。所以,需要你在寫SQL語句的時候,手動改寫成 where id = 10000 -1才可以。
接下來我再跟你說一說,另一個經(jīng)常讓程序員掉坑里的例子。
我們一起看一下這條SQL語句:
mysql> select * from tradelog where tradeid=110717;
交易編號tradeid這個字段上,本來就有索引,但是explain的結果卻顯示,這條語句需要走全表掃描。你可能也發(fā)現(xiàn)了,tradeid的字段類型是varchar(32),而輸入的參數(shù)卻是整型,所以需要做類型轉換。
那么,現(xiàn)在這里就有兩個問題:
數(shù)據(jù)類型轉換的規(guī)則是什么?
為什么有數(shù)據(jù)類型轉換,就需要走全索引掃描?
先來看第一個問題,你可能會說,數(shù)據(jù)庫里面類型這么多,這種數(shù)據(jù)類型轉換規(guī)則更多,我記不住,應該怎么辦呢?
這里有一個簡單的方法,看 select “10” > 9的結果:
如果規(guī)則是“將字符串轉成數(shù)字”,那么就是做數(shù)字比較,結果應該是1;
如果規(guī)則是“將數(shù)字轉成字符串”,那么就是做字符串比較,結果應該是0。
驗證結果如圖3所示。
從圖中可知,select “10” > 9返回的是1,所以你就能確認MySQL里的轉換規(guī)則了:在MySQL中,字符串和數(shù)字做比較的話,是將字符串轉換成數(shù)字。
這時,你再看這個全表掃描的語句:
mysql> select * from tradelog where tradeid=110717;
就知道對于優(yōu)化器來說,這個語句相當于:
mysql> select * from tradelog where CAST(tradid AS signed int) = 110717;
也就是說,這條語句觸發(fā)了我們上面說到的規(guī)則:對索引字段做函數(shù)操作,優(yōu)化器會放棄走樹搜索功能。
現(xiàn)在,我留給你一個小問題,id的類型是int,如果執(zhí)行下面這個語句,是否會導致全表掃描呢?
select * from tradelog where id="83126";
你可以先自己分析一下,再到數(shù)據(jù)庫里面去驗證確認。
接下來,我們再來看一個稍微復雜點的例子。
假設系統(tǒng)里還有另外一個表trade_detail,用于記錄交易的操作細節(jié)。為了便于量化分析和復現(xiàn),我往交易日志表tradelog和交易詳情表trade_detail這兩個表里插入一些數(shù)據(jù)。
mysql> CREATE TABLE `trade_detail` ( `id` int(11) NOT NULL, `tradeid` varchar(32) DEFAULT NULL, `trade_step` int(11) DEFAULT NULL, /*操作步驟*/ `step_info` varchar(32) DEFAULT NULL, /*步驟信息*/ PRIMARY KEY (`id`), KEY `tradeid` (`tradeid`)) ENGINE=InnoDB DEFAULT CHARSET=utf8;insert into tradelog values(1, 'aaaaaaaa', 1000, now());insert into tradelog values(2, 'aaaaaaab', 1000, now());insert into tradelog values(3, 'aaaaaaac', 1000, now());insert into trade_detail values(1, 'aaaaaaaa', 1, 'add');insert into trade_detail values(2, 'aaaaaaaa', 2, 'update');insert into trade_detail values(3, 'aaaaaaaa', 3, 'commit');insert into trade_detail values(4, 'aaaaaaab', 1, 'add');insert into trade_detail values(5, 'aaaaaaab', 2, 'update');insert into trade_detail values(6, 'aaaaaaab', 3, 'update again');insert into trade_detail values(7, 'aaaaaaab', 4, 'commit');insert into trade_detail values(8, 'aaaaaaac', 1, 'add');insert into trade_detail values(9, 'aaaaaaac', 2, 'update');insert into trade_detail values(10, 'aaaaaaac', 3, 'update again');insert into trade_detail values(11, 'aaaaaaac', 4, 'commit');
這時候,如果要查詢id=2的交易的所有操作步驟信息,SQL語句可以這么寫:
mysql> select d.* from tradelog l, trade_detail d where d.tradeid=l.tradeid and l.id=2; /*語句Q1*/
我們一起來看下這個結果:
第一行顯示優(yōu)化器會先在交易記錄表tradelog上查到id=2的行,這個步驟用上了主鍵索引,rows=1表示只掃描一行;
第二行key=NULL,表示沒有用上交易詳情表trade_detail上的tradeid索引,進行了全表掃描。
在這個執(zhí)行計劃里,是從tradelog表中取tradeid字段,再去trade_detail表里查詢匹配字段。因此,我們把tradelog稱為驅動表,把trade_detail稱為被驅動表,把tradeid稱為關聯(lián)字段。
接下來,我們看下這個explain結果表示的執(zhí)行流程:
圖中:
第1步,是根據(jù)id在tradelog表里找到L2這一行;
第2步,是從L2中取出tradeid字段的值;
第3步,是根據(jù)tradeid值到trade_detail表中查找條件匹配的行。explain的結果里面第二行的key=NULL表示的就是,這個過程是通過遍歷主鍵索引的方式,一個一個地判斷tradeid的值是否匹配。
進行到這里,你會發(fā)現(xiàn)第3步不符合我們的預期。因為表trade_detail里tradeid字段上是有索引的,我們本來是希望通過使用tradeid索引能夠快速定位到等值的行。但,這里并沒有。
如果你去問DBA同學,他們可能會告訴你,因為這兩個表的字符集不同,一個是utf8,一個是utf8mb4,所以做表連接查詢的時候用不上關聯(lián)字段的索引。這個回答,也是通常你搜索這個問題時會得到的答案。
但是你應該再追問一下,為什么字符集不同就用不上索引呢?
我們說問題是出在執(zhí)行步驟的第3步,如果單獨把這一步改成SQL語句的話,那就是:
mysql> select * from trade_detail where tradeid=$L2.tradeid.value;
其中,$L2.tradeid.value的字符集是utf8mb4。
參照前面的兩個例子,你肯定就想到了,字符集utf8mb4是utf8的超集,所以當這兩個類型的字符串在做比較的時候,MySQL內(nèi)部的操作是,先把utf8字符串轉成utf8mb4字符集,再做比較。
這個設定很好理解,utf8mb4是utf8的超集。類似地,在程序設計語言里面,做自動類型轉換的時候,為了避免數(shù)據(jù)在轉換過程中由于截斷導致數(shù)據(jù)錯誤,也都是“按數(shù)據(jù)長度增加的方向”進行轉換的。
因此, 在執(zhí)行上面這個語句的時候,需要將被驅動數(shù)據(jù)表里的字段一個個地轉換成utf8mb4,再跟L2做比較。
也就是說,實際上這個語句等同于下面這個寫法:
select * from trade_detail where CONVERT(traideid USING utf8mb4)=$L2.tradeid.value;
CONVERT()函數(shù),在這里的意思是把輸入的字符串轉成utf8mb4字符集。
這就再次觸發(fā)了我們上面說到的原則:對索引字段做函數(shù)操作,優(yōu)化器會放棄走樹搜索功能。
到這里,你終于明確了,字符集不同只是條件之一,連接過程中要求在被驅動表的索引字段上加函數(shù)操作,是直接導致對被驅動表做全表掃描的原因。
作為對比驗證,我給你提另外一個需求,“查找trade_detail表里id=4的操作,對應的操作者是誰”,再來看下這個語句和它的執(zhí)行計劃。
mysql>select l.operator from tradelog l , trade_detail d where d.tradeid=l.tradeid and d.id=4;
這個語句里trade_detail 表成了驅動表,但是explain結果的第二行顯示,這次的查詢操作用上了被驅動表tradelog里的索引(tradeid),掃描行數(shù)是1。
這也是兩個tradeid字段的join操作,為什么這次能用上被驅動表的tradeid索引呢?我們來分析一下。
假設驅動表trade_detail里id=4的行記為R4,那么在連接的時候(圖5的第3步),被驅動表tradelog上執(zhí)行的就是類似這樣的SQL 語句:
select operator from tradelog where traideid =$R4.tradeid.value;
這時候$R4.tradeid.value的字符集是utf8, 按照字符集轉換規(guī)則,要轉成utf8mb4,所以這個過程就被改寫成:
select operator from tradelog where traideid =CONVERT($R4.tradeid.value USING utf8mb4);
你看,這里的CONVERT函數(shù)是加在輸入?yún)?shù)上的,這樣就可以用上被驅動表的traideid索引。
理解了原理以后,就可以用來指導操作了。如果要優(yōu)化語句
select d.* from tradelog l, trade_detail d where d.tradeid=l.tradeid and l.id=2;
的執(zhí)行過程,有兩種做法:
比較常見的優(yōu)化方法是,把trade_detail表上的tradeid字段的字符集也改成utf8mb4,這樣就沒有字符集轉換的問題了。
alter table trade_detail modify tradeid varchar(32) CHARACTER SET utf8mb4 default null;
如果能夠修改字段的字符集的話,是最好不過了。但如果數(shù)據(jù)量比較大, 或者業(yè)務上暫時不能做這個DDL的話,那就只能采用修改SQL語句的方法了。
mysql> select d.* from tradelog l , trade_detail d where d.tradeid=CONVERT(l.tradeid USING utf8) and l.id=2;
這里,我主動把 l.tradeid轉成utf8,就避免了被驅動表上的字符編碼轉換,從explain結果可以看到,這次索引走對了。
今天我給你舉了三個例子,其實是在說同一件事兒,即:對索引字段做函數(shù)操作,可能會破壞索引值的有序性,因此優(yōu)化器就決定放棄走樹搜索功能。
第二個例子是隱式類型轉換,第三個例子是隱式字符編碼轉換,它們都跟第一個例子一樣,因為要求在索引字段上做函數(shù)操作而導致了全索引掃描。
MySQL的優(yōu)化器確實有“偷懶”的嫌疑,即使簡單地把where id+1=1000改寫成where id=1000-1就能夠用上索引快速查找,也不會主動做這個語句重寫。
因此,每次你的業(yè)務代碼升級時,把可能出現(xiàn)的、新的SQL語句explain一下,是一個很好的習慣。
最后,又到了思考題時間。
今天我留給你的課后問題是,你遇到過別的、類似今天我們提到的性能問題嗎?你認為原因是什么,又是怎么解決的呢?