? 前面我們系統(tǒng)了解了一個查詢語句的執(zhí)行流程,并介紹了執(zhí)行過程中涉及的處理模塊。相信你還記得,一條查詢語句的執(zhí)行過程一般是經(jīng)過連接器、分析器、優(yōu)化器、執(zhí)行器等功能模塊,最后到達(dá)存儲引擎。
那么,一條更新語句的執(zhí)行流程又是怎樣的呢?之前你可能經(jīng)常聽 DBA 同事說,MySQL 可以恢復(fù)到半個月內(nèi)任意一秒的狀態(tài),驚嘆的同時,你是不是心中也會不免會好奇,這是怎樣做到的呢?
我們還是從一個表的一條更新語句說起,下面是這個表的創(chuàng)建語句,這個表有一個主鍵 ID 和一個整型字段 c:
mysql> create table T( ID int primary key, c int );
如果要將 ID=2 這一行的值加 1,SQL 語句就會這么寫:
mysql> update T set c=c 1 where ID=2;
首先,可以確定的說,查詢語句的那一套流程,更新語句也是同樣會走一遍。
你執(zhí)行語句前要先連接數(shù)據(jù)庫,這是連接器的工作。
前面我們說過,在一個表上有更新的時候,跟這個表有關(guān)的查詢緩存會失效,所以這條語句就會把表 T 上所有緩存結(jié)果都清空。這也就是我們一般不建議使用查詢緩存的原因。
接下來,分析器會通過詞法和語法解析知道這是一條更新語句。優(yōu)化器決定要使用 ID 這個索引。然后,執(zhí)行器負(fù)責(zé)具體執(zhí)行,找到這一行,然后更新。
與查詢流程不一樣的是,更新流程還涉及兩個重要的日志模塊,它們正是我們今天要討論的主角:redo log(重做日志)和 binlog(歸檔日志)。如果接觸 MySQL,那這兩個詞肯定是繞不過的,我后面的內(nèi)容里也會不斷地和你強(qiáng)調(diào)。不過話說回來,redo log 和 binlog 在設(shè)計上有很多有意思的地方,這些設(shè)計思路也可以用到你自己的程序里。
不知道你還記不記得《孔乙己》這篇文章,酒店掌柜有一個粉板,專門用來記錄客人的賒賬記錄。如果賒賬的人不多,那么他可以把顧客名和賬目寫在板上。但如果賒賬的人多了,粉板總會有記不下的時候,這個時候掌柜一定還有一個專門記錄賒賬的賬本。
如果有人要賒賬或者還賬的話,掌柜一般有兩種做法:
一種做法是直接把賬本翻出來,把這次賒的賬加上去或者扣除掉;另一種做法是先在粉板上記下這次的賬,等打烊以后再把賬本翻出來核算。
在生意紅火柜臺很忙時,掌柜一定會選擇后者,因為前者操作實在是太麻煩了。首先,你得找到這個人的賒賬總額那條記錄。你想想,密密麻麻幾十頁,掌柜要找到那個名字,可能還得帶上老花鏡慢慢找,找到之后再拿出算盤計算,最后再將結(jié)果寫回到賬本上。
這整個過程想想都麻煩。相比之下,還是先在粉板上記一下方便。你想想,如果掌柜沒有粉板的幫助,每次記賬都得翻賬本,效率是不是低得讓人難以忍受?
同樣,在 MySQL 里也有這個問題,如果每一次的更新操作都需要寫進(jìn)磁盤,然后磁盤也要找到對應(yīng)的那條記錄,然后再更新,整個過程 IO 成本、查找成本都很高。為了解決這個問題,MySQL 的設(shè)計者就用了類似酒店掌柜粉板的思路來提升更新效率。
而粉板和賬本配合的整個過程,其實就是 MySQL 里經(jīng)常說到的 WAL 技術(shù),WAL 的全稱是Write-Ahead Logging,它的關(guān)鍵點就是先寫日志,再寫磁盤,也就是先寫粉板,等不忙的時候再寫賬本。
具體來說,當(dāng)有一條記錄需要更新的時候,InnoDB 引擎就會先把記錄寫到 redo log(粉板)里面,并更新內(nèi)存,這個時候更新就算完成了。同時,InnoDB 引擎會在適當(dāng)?shù)臅r候,將這個操作記錄更新到磁盤里面,而這個更新往往是在系統(tǒng)比較空閑的時候做,這就像打烊以后掌柜做的事。
如果今天賒賬的不多,掌柜可以等打烊后再整理。但如果某天賒賬的特別多,粉板寫滿了,又怎么辦呢?這個時候掌柜只好放下手中的活兒,把粉板中的一部分賒賬記錄更新到賬本中,然后把這些記錄從粉板上擦掉,為記新賬騰出空間。
與此類似,InnoDB 的 redo log 是固定大小的,比如可以配置為一組 4 個文件,每個文件的大小是 1GB,那么這塊“粉板”總共就可以記錄 4GB 的操作。從頭開始寫,寫到末尾就又回到開頭循環(huán)寫,如下面這個圖所示。
wirte pos 是當(dāng)前記錄的位置,一邊寫一邊后移,寫到第 3 號文件末尾后就回到 0 號文件開頭。
checkpoint 是當(dāng)前要擦除的位置,也是往后推移并且循環(huán)的,擦除記錄前要把記錄更新到數(shù)據(jù)文件。
write pos 和 checkpoint 之間的是“粉板”上還空著的部分,可以用來記錄新的操作。如果write pos 追上 checkpoint,表示“粉板”滿了,這時候不能再執(zhí)行新的更新,得停下來先擦掉一些記錄,把 checkpoint 推進(jìn)一下。
有了 redo log,InnoDB 就可以保證即使數(shù)據(jù)庫發(fā)生異常重啟,之前提交的記錄都不會丟失,這個能力稱為crash-safe。
要理解 crash-safe 這個概念,可以想想我們前面賒賬記錄的例子。只要賒賬記錄記在了粉板上或?qū)懺诹速~本上,之后即使掌柜忘記了,比如突然停業(yè)幾天,恢復(fù)生意后依然可以通過賬本和粉板上的數(shù)據(jù)明確賒賬賬目。
前面我們講過,MySQL 整體來看,其實就有兩塊:一塊是 Server 層,它主要做的是 MySQL功能層面的事情;還有一塊是引擎層,負(fù)責(zé)存儲相關(guān)的具體事宜。上面我們聊到的粉板 redo log 是 InnoDB 引擎特有的日志,而 Server 層也有自己的日志,稱為 binlog(歸檔日志)。我想你肯定會問,為什么會有兩份日志呢?
因為最開始 MySQL 里并沒有 InnoDB 引擎。MySQL 自帶的引擎是 MyISAM,但是 MyISAM沒有 crash-safe 的能力,binlog 日志只能用于歸檔。而 InnoDB 是另一個公司以插件形式引入MySQL 的,既然只依靠 binlog 是沒有 crash-safe 能力的,所以 InnoDB 使用另外一套日志系統(tǒng)——也就是 redo log 來實現(xiàn) crash-safe 能力。
這兩種日志有以下三點不同。
你可能注意到了,最后三步看上去有點“繞”,將 redo log 的寫入拆成了兩個步驟:prepare 和 commit,這就是"兩階段提交"。
為什么必須有“兩階段提交”呢?這是為了讓兩份日志之間的邏輯一致。要說明這個問題,我們得從文章開頭的那個問題說起:怎樣讓數(shù)據(jù)庫恢復(fù)到半個月內(nèi)任意一秒的狀態(tài)?
前面我們說過了,binlog 會記錄所有的邏輯操作,并且是采用“追加寫”的形式。如果你的DBA 承諾說半個月內(nèi)可以恢復(fù),那么備份系統(tǒng)中一定會保存最近半個月的所有 binlog,同時系統(tǒng)會定期做整庫備份。這里的“定期”取決于系統(tǒng)的重要性,可以是一天一備,也可以是一周一備。
當(dāng)需要恢復(fù)到指定的某一秒時,比如某天下午兩點發(fā)現(xiàn)中午十二點有一次誤刪表,需要找回數(shù)據(jù),那你可以這么做:
首先,找到最近的一次全量備份,如果你運(yùn)氣好,可能就是昨天晚上的一個備份,從這個備份恢復(fù)到臨時庫;然后,從備份的時間點開始,將備份的 binlog 依次取出來,重放到中午誤刪表之前的那個時刻。
這樣你的臨時庫就跟誤刪之前的線上庫一樣了,然后你可以把表數(shù)據(jù)從臨時庫取出來,按需要恢復(fù)到線上庫去。
好了,說完了數(shù)據(jù)恢復(fù)過程,我們回來說說,為什么日志需要“兩階段提交”。這里不妨用反證法來進(jìn)行解釋。
由于 redo log 和 binlog 是兩個獨立的邏輯,如果不用兩階段提交,要么就是先寫完 redo log再寫 binlog,或者采用反過來的順序。我們看看這兩種方式會有什么問題。
仍然用前面的 update 語句來做例子。假設(shè)當(dāng)前 ID=2 的行,字段 c 的值是 0,再假設(shè)執(zhí)行update 語句過程中在寫完第一個日志后,第二個日志還沒有寫完期間發(fā)生了 crash,會出現(xiàn)什么情況呢?
今天,我介紹了 MySQL 里面最重要的兩個日志,即物理日志 redo log 和邏輯日志 binlog。redo log 用于保證 crash-safe 能力。innodb_flush_log_at_trx_commit 這個參數(shù)設(shè)置成 1 的時候,表示每次事務(wù)的 redo log 都直接持久化到磁盤。這個參數(shù)我建議你設(shè)置成 1,這樣可以保證 MySQL 異常重啟之后數(shù)據(jù)不丟失。
sync_binlog 這個參數(shù)設(shè)置成 1 的時候,表示每次事務(wù)的 binlog 都持久化到磁盤。這個參數(shù)我也建議你設(shè)置成 1,這樣可以保證 MySQL 異常重啟之后 binlog 不丟失。
我還跟你介紹了與 MySQL 日志系統(tǒng)密切相關(guān)的“兩階段提交”。兩階段提交是跨系統(tǒng)維持?jǐn)?shù)據(jù)邏輯一致性時常用的一個方案,即使你不做數(shù)據(jù)庫內(nèi)核開發(fā),日常開發(fā)中也有可能會用到。文章的最后,我給你留一個思考題吧。前面我說到定期全量備份的周期“取決于系統(tǒng)重要性,有的是一天一備,有的是一周一備”。那么在什么場景下,一天一備會比一周一備更有優(yōu)勢呢?或者說,它影響了這個數(shù)據(jù)庫系統(tǒng)的哪個指標(biāo)?
來源:https://www.icode9.com/content-2-256701.html