前段時間,公司一個新上線的網(wǎng)站出現(xiàn)頁面響應(yīng)速度緩慢的問題, 一位負(fù)責(zé)這個項目的但并不是搞技術(shù)的妹子找到我,讓我想辦法提升網(wǎng)站的訪問速度 ,因為已經(jīng)有很多用戶來投訴了。我第一反應(yīng)覺的是數(shù)據(jù)庫上的問題,假裝思索了一下,擺著一副深沉炫酷的模樣說:“是不是數(shù)據(jù)庫查詢上出問題了, 給表加上索引吧”,然后妹子來了一句:“現(xiàn)在我們網(wǎng)站訪問量太大,加索引有可能導(dǎo)致寫入數(shù)據(jù)時性能下降,影響用戶使用的”。當(dāng)時我就楞了一下, 有種強(qiáng)行裝逼被拆穿的感覺,在自己的專業(yè)領(lǐng)域居然被非專業(yè)的同學(xué)教育, 面子上真有點掛不住。
其實, 我說這個例子并不是為展現(xiàn)我們公司的同事們專業(yè)能力的強(qiáng)大、做的產(chǎn)品棒、安全性高、性能牛逼, 連非技術(shù)的同事也懂得技術(shù)上的細(xì)節(jié)。事實上我只是想說明,「數(shù)據(jù)庫」和「數(shù)據(jù)庫索引」這兩個東西是在服務(wù)器端開發(fā)領(lǐng)域應(yīng)用最為廣泛的兩個概念,熟練使用數(shù)據(jù)庫和數(shù)據(jù)庫索引是開發(fā)人員在行業(yè)內(nèi)生存的必備技能,而整天和技術(shù)人員打交道的非技術(shù)人員們,由于耳濡目染久了,自然也就能講個頭頭是道了。
使用索引很簡單,只要能寫創(chuàng)建表的語句,就肯定能寫創(chuàng)建索引的語句,要知道這個世界上是不存在不會創(chuàng)建表的服務(wù)器端程序員的。然而, 會使用索引是一回事, 而深入理解索引原理又能恰到好處使用索引又是另一回事,這完全是兩個天差地別的境界(我自己也還沒有達(dá)到這層境界)。很大一部份程序員對索引的了解僅限于到“加索引能使查詢變快”這個概念為止。
為什么要給表加上主鍵?
為什么加索引后會使查詢變快?
為什么加索引后會使寫入、修改、刪除變慢?
什么情況下要同時在兩個字段上建索引?
這些問題他們可能不一定能說出答案。知道這些問題的答案有什么好處呢?如果開發(fā)的應(yīng)用使用的數(shù)據(jù)庫表中只有1萬條數(shù)據(jù),那么了解與不了解真的沒有差別, 然而, 如果開發(fā)的應(yīng)用有幾百上千萬甚至億級別的數(shù)據(jù),那么不深入了解索引的原理, 寫出來程序就根本跑不動,就好比如果給貨車裝個轎車的引擎,這貨車還能拉的動貨嗎?
接下來就講解一下上面提出的幾個問題,希望對閱讀者有幫助。
網(wǎng)上很多講解索引的文章對索引的描述是這樣的「索引就像書的目錄, 通過書的目錄就準(zhǔn)確的定位到了書籍具體的內(nèi)容」,這句話描述的非常正確, 但就像脫了褲子放屁,說了跟沒說一樣,通過目錄查找書的內(nèi)容自然是要比一頁一頁的翻書找來的快,同樣使用的索引的人難到會不知道,通過索引定位到數(shù)據(jù)比直接一條一條的查詢來的快,不然他們?yōu)槭裁匆ㄋ饕?/span>
想要理解索引原理必須清楚一種數(shù)據(jù)結(jié)構(gòu)「平衡樹」(非二叉),也就是b tree或者 b tree,重要的事情說三遍:“平衡樹,平衡樹,平衡樹”。當(dāng)然, 有的數(shù)據(jù)庫也使用哈希桶作用索引的數(shù)據(jù)結(jié)構(gòu) , 然而, 主流的RDBMS都是把平衡樹當(dāng)做數(shù)據(jù)表默認(rèn)的索引數(shù)據(jù)結(jié)構(gòu)的。
我們平時建表的時候都會為表加上主鍵, 在某些關(guān)系數(shù)據(jù)庫中, 如果建表時不指定主鍵,數(shù)據(jù)庫會拒絕建表的語句執(zhí)行。 事實上, 一個加了主鍵的表,并不能被稱之為「表」。一個沒加主鍵的表,它的數(shù)據(jù)無序的放置在磁盤存儲器上,一行一行的排列的很整齊, 跟我認(rèn)知中的「表」很接近。如果給表上了主鍵,那么表在磁盤上的存儲結(jié)構(gòu)就由整齊排列的結(jié)構(gòu)轉(zhuǎn)變成了樹狀結(jié)構(gòu),也就是上面說的「平衡樹」結(jié)構(gòu),換句話說,就是整個表就變成了一個索引。沒錯, 再說一遍, 整個表變成了一個索引,也就是所謂的「聚集索引」。 這就是為什么一個表只能有一個主鍵, 一個表只能有一個「聚集索引」,因為主鍵的作用就是把「表」的數(shù)據(jù)格式轉(zhuǎn)換成「索引(平衡樹)」的格式放置。
上圖就是帶有主鍵的表(聚集索引)的結(jié)構(gòu)圖。圖畫的不是很好, 將就著看。其中樹的所有結(jié)點(底部除外)的數(shù)據(jù)都是由主鍵字段中的數(shù)據(jù)構(gòu)成,也就是通常我們指定主鍵的id字段。最下面部分是真正表中的數(shù)據(jù)。 假如我們執(zhí)行一個SQL語句:
select * from table where id = 1256;
首先根據(jù)索引定位到1256這個值所在的葉結(jié)點,然后再通過葉結(jié)點取到id等于1256的數(shù)據(jù)行。 這里不講解平衡樹的運行細(xì)節(jié), 但是從上圖能看出,樹一共有三層, 從根節(jié)點至葉節(jié)點只需要經(jīng)過三次查找就能得到結(jié)果。如下圖
假如一張表有一億條數(shù)據(jù) ,需要查找其中某一條數(shù)據(jù),按照常規(guī)邏輯, 一條一條的去匹配的話, 最壞的情況下需要匹配一億次才能得到結(jié)果,用大O標(biāo)記法就是O(n)最壞時間復(fù)雜度,這是無法接受的,而且這一億條數(shù)據(jù)顯然不能一次性讀入內(nèi)存供程序使用, 因此, 這一億次匹配在不經(jīng)緩存優(yōu)化的情況下就是一億次IO開銷,以現(xiàn)在磁盤的IO能力和CPU的運算能力, 有可能需要幾個月才能得出結(jié)果 。如果把這張表轉(zhuǎn)換成平衡樹結(jié)構(gòu)(一棵非常茂盛和節(jié)點非常多的樹),假設(shè)這棵樹有10層,那么只需要10次IO開銷就能查找到所需要的數(shù)據(jù), 速度以指數(shù)級別提升,用大O標(biāo)記法就是O(log n),n是記錄總樹,底數(shù)是樹的分叉數(shù),結(jié)果就是樹的層次數(shù)。換言之,查找次數(shù)是以樹的分叉數(shù)為底,記錄總數(shù)的對數(shù),用公式來表示就是
用程序來表示就是Math.Log(100000000,10),100000000是記錄數(shù),10是樹的分叉數(shù)(真實環(huán)境下分叉數(shù)遠(yuǎn)不止10), 結(jié)果就是查找次數(shù),這里的結(jié)果從億降到了個位數(shù)。因此,利用索引會使數(shù)據(jù)庫查詢有驚人的性能提升。
然而, 事物都是有兩面的, 索引能讓數(shù)據(jù)庫查詢數(shù)據(jù)的速度上升, 而使寫入數(shù)據(jù)的速度下降,原因很簡單的, 因為平衡樹這個結(jié)構(gòu)必須一直維持在一個正確的狀態(tài), 增刪改數(shù)據(jù)都會改變平衡樹各節(jié)點中的索引數(shù)據(jù)內(nèi)容,破壞樹結(jié)構(gòu), 因此,在每次數(shù)據(jù)改變時, DBMS必須去重新梳理樹(索引)的結(jié)構(gòu)以確保它的正確,這會帶來不小的性能開銷,也就是為什么索引會給查詢以外的操作帶來副作用的原因。
講完聚集索引 , 接下來聊一下非聚集索引, 也就是我們平時經(jīng)常提起和使用的常規(guī)索引。
非聚集索引和聚集索引一樣, 同樣是采用平衡樹作為索引的數(shù)據(jù)結(jié)構(gòu)。索引樹結(jié)構(gòu)中各節(jié)點的值來自于表中的索引字段, 假如給user表的name字段加上索引 , 那么索引就是由name字段中的值構(gòu)成,在數(shù)據(jù)改變時, DBMS需要一直維護(hù)索引結(jié)構(gòu)的正確性。如果給表中多個字段加上索引 , 那么就會出現(xiàn)多個獨立的索引結(jié)構(gòu),每個索引(非聚集索引)互相之間不存在關(guān)聯(lián)。 如下圖
每次給字段建一個新索引, 字段中的數(shù)據(jù)就會被復(fù)制一份出來, 用于生成索引。 因此, 給表添加索引,會增加表的體積, 占用磁盤存儲空間。
非聚集索引和聚集索引的區(qū)別在于, 通過聚集索引可以查到需要查找的數(shù)據(jù), 而通過非聚集索引可以查到記錄對應(yīng)的主鍵值 , 再使用主鍵的值通過聚集索引查找到需要的數(shù)據(jù),如下圖
不管以任何方式查詢表, 最終都會利用主鍵通過聚集索引來定位到數(shù)據(jù), 聚集索引(主鍵)是通往真實數(shù)據(jù)所在的唯一路徑。
然而, 有一種例外可以不使用聚集索引就能查詢出所需要的數(shù)據(jù), 這種非主流的方法 稱之為「覆蓋索引」查詢, 也就是平時所說的復(fù)合索引或者多字段索引查詢。 文章上面的內(nèi)容已經(jīng)指出, 當(dāng)為字段建立索引以后, 字段中的內(nèi)容會被同步到索引之中, 如果為一個索引指定兩個字段, 那么這個兩個字段的內(nèi)容都會被同步至索引之中。
先看下面這個SQL語句
//建立索引
create index index_birthday on user_info(birthday);
//查詢生日在1991年11月1日出生用戶的用戶名
select user_name from user_info where birthday = '1991-11-1'
這句SQL語句的執(zhí)行過程如下
首先,通過非聚集索引index_birthday查找birthday等于1991-11-1的所有記錄的主鍵ID值
然后,通過得到的主鍵ID值執(zhí)行聚集索引查找,找到主鍵ID值對就的真實數(shù)據(jù)(數(shù)據(jù)行)存儲的位置
最后, 從得到的真實數(shù)據(jù)中取得user_name字段的值返回, 也就是取得最終的結(jié)果
我們把birthday字段上的索引改成雙字段的覆蓋索引
create index index_birthday_and_user_name on user_info(birthday, user_name);
這句SQL語句的執(zhí)行過程就會變?yōu)?/span>
通過非聚集索引index_birthday_and_user_name查找birthday等于1991-11-1的葉節(jié)點的內(nèi)容,然而, 葉節(jié)點中除了有user_name表主鍵ID的值以外, user_name字段的值也在里面, 因此不需要通過主鍵ID值的查找數(shù)據(jù)行的真實所在, 直接取得葉節(jié)點中user_name的值返回即可。 通過這種覆蓋索引直接查找的方式, 可以省略不使用覆蓋索引查找的后面兩個步驟, 大大的提高了查詢性能,如下圖
數(shù)據(jù)庫索引的大致工作原理就是像文中所述, 然而細(xì)節(jié)方面可能會略有偏差,這但并不會對概念闡述的結(jié)果產(chǎn)生影響 。
最后, 推薦三本關(guān)系數(shù)據(jù)庫方面的書籍, 文中所講解的概念內(nèi)容都是來自于此。
《SQL Server2005技術(shù)內(nèi)幕之T-SQL查詢》
這本書雖然是針對SQL Server寫的, 但是里面的大部份內(nèi)容同樣適用于其它關(guān)系數(shù)據(jù)庫,此書對查詢編寫的技巧和優(yōu)化講解的非常透徹。
《關(guān)系數(shù)據(jù)庫系統(tǒng)概論》第四版
王珊和薩師煊寫的那本, 是大學(xué)計算機(jī)教材, 講的通俗易懂, 在國內(nèi)計算機(jī)書圖書出版領(lǐng)域質(zhì)量是排的上號的。
《數(shù)據(jù)庫系統(tǒng)概念》
這本書在數(shù)據(jù)庫領(lǐng)域非常出名, 被稱之為帆船書, 書中內(nèi)容博大精深,非一朝一夕可參透的。