根據(jù)Chaos  Wang的PPT整理而成， 在此再次感謝Chaos Wang的此次TechTalk

基本概念

• 字符(Character)是指人類語言中最小的表義符號(hào)。例如’A‘、’B‘等；

• 給定一系列字符，對(duì)每個(gè)字符賦予一個(gè)數(shù)值，用數(shù)值來代表對(duì)應(yīng)的字符，這一數(shù)值就是字符的編碼(Encoding)。例如，我們給字符’A‘賦予數(shù)值0，給字符’B‘賦予數(shù)值1，則0就是字符’A‘的編碼；

• 給定一系列字符并賦予對(duì)應(yīng)的編碼后，所有這些字符和編碼對(duì)組成的集合就是字符集(Character Set)。例如，給定字符列表為{’A‘,’B‘}時(shí)，{’A‘=>0, ‘B’=>1}就是一個(gè)字符集；

• 字符序(Collation)是指在同一字符集內(nèi)字符之間的比較規(guī)則；

• 確定字符序后，才能在一個(gè)字符集上定義什么是等價(jià)的字符，以及字符之間的大小關(guān)系；

• 每個(gè)字符序唯一對(duì)應(yīng)一種字符集，但一個(gè)字符集可以對(duì)應(yīng)多種字符序，其中有一個(gè)是默認(rèn)字符序(Default Collation)；

• MySQL中的字符序名稱遵從命名慣例：以字符序?qū)?yīng)的字符集名稱開頭；以_ci(表示大小寫不敏感)、_cs(表示大小寫敏感)或_bin(表示按編碼值比較)結(jié)尾。例如：在字符序“utf8_general_ci”下，字符“a”和“A”是等價(jià)的；

MySQL字符集設(shè)置

• 系統(tǒng)變量：

– character_set_server：默認(rèn)的內(nèi)部操作字符集

– character_set_client：客戶端來源數(shù)據(jù)使用的字符集

– character_set_connection：連接層字符集

– character_set_results：查詢結(jié)果字符集

– character_set_database：當(dāng)前選中數(shù)據(jù)庫的默認(rèn)字符集

– character_set_system：系統(tǒng)元數(shù)據(jù)(字段名等)字符集

– 還有以collation_開頭的同上面對(duì)應(yīng)的變量，用來描述字符序。

• 用introducer指定文本字符串的字符集：

– 格式為：[_charset] ’string’ [COLLATE collation]

– 例如：

• SELECT _latin1 ’string’;

• SELECT _utf8 ‘你好’ COLLATE utf8_general_ci;

– 由introducer修飾的文本字符串在請(qǐng)求過程中不經(jīng)過多余的轉(zhuǎn)碼，直接轉(zhuǎn)換為內(nèi)部字符集處理。

MySQL中的字符集轉(zhuǎn)換過程

1. MySQL Server收到請(qǐng)求時(shí)將請(qǐng)求數(shù)據(jù)從character_set_client轉(zhuǎn)換為character_set_connection；

2. 進(jìn)行內(nèi)部操作前將請(qǐng)求數(shù)據(jù)從character_set_connection轉(zhuǎn)換為內(nèi)部操作字符集，其確定方法如下：

• 使用每個(gè)數(shù)據(jù)字段的CHARACTER SET設(shè)定值；

• 若上述值不存在，則使用對(duì)應(yīng)數(shù)據(jù)表的DEFAULT CHARACTER SET設(shè)定值(MySQL擴(kuò)展，非SQL標(biāo)準(zhǔn))；

• 若上述值不存在，則使用對(duì)應(yīng)數(shù)據(jù)庫的DEFAULT CHARACTER SET設(shè)定值；

• 若上述值不存在，則使用character_set_server設(shè)定值。

3. 將操作結(jié)果從內(nèi)部操作字符集轉(zhuǎn)換為character_set_results。

常見問題解析

• 向默認(rèn)字符集為utf8的數(shù)據(jù)表插入utf8編碼的數(shù)據(jù)前沒有設(shè)置連接字符集，查詢時(shí)設(shè)置連接字符集為utf8

– 插入時(shí)根據(jù)MySQL服務(wù)器的默認(rèn)設(shè)置，character_set_client、character_set_connection和character_set_results均為latin1；

– 插入操作的數(shù)據(jù)將經(jīng)過latin1=>latin1=>utf8的字符集轉(zhuǎn)換過程，這一過程中每個(gè)插入的漢字都會(huì)從原始的3個(gè)字節(jié)變成6個(gè)字節(jié)保存；

– 查詢時(shí)的結(jié)果將經(jīng)過utf8=>utf8的字符集轉(zhuǎn)換過程，將保存的6個(gè)字節(jié)原封不動(dòng)返回，產(chǎn)生亂碼……

• 向默認(rèn)字符集為latin1的數(shù)據(jù)表插入utf8編碼的數(shù)據(jù)前設(shè)置了連接字符集為utf8

– 插入時(shí)根據(jù)連接字符集設(shè)置，character_set_client、character_set_connection和character_set_results均為utf8；

– 插入數(shù)據(jù)將經(jīng)過utf8=>utf8=>latin1的字符集轉(zhuǎn)換，若原始數(shù)據(jù)中含有\(zhòng)u0000~\u00ff范圍以外的Unicode字 符，會(huì)因?yàn)闊o法在latin1字符集中表示而被轉(zhuǎn)換為“?”(0×3F)符號(hào)，以后查詢時(shí)不管連接字符集設(shè)置如何都無法恢復(fù)其內(nèi)容了。

檢測(cè)字符集問題的一些手段

• SHOW CHARACTER SET;

• SHOW COLLATION;

• SHOW VARIABLES LIKE ‘character%’;

• SHOW VARIABLES LIKE ‘collation%’;

• SQL函數(shù)HEX、LENGTH、CHAR_LENGTH

• SQL函數(shù)CHARSET、COLLATION

使用MySQL字符集時(shí)的建議

• 建立數(shù)據(jù)庫/表和進(jìn)行數(shù)據(jù)庫操作時(shí)盡量顯式指出使用的字符集，而不是依賴于MySQL的默認(rèn)設(shè)置，否則MySQL升級(jí)時(shí)可能帶來很大困擾；

• 數(shù)據(jù)庫和連接字符集都使用latin1時(shí)雖然大部分情況下都可以解決亂碼問題，但缺點(diǎn)是無法以字符為單位來進(jìn)行SQL操作，一般情況下將數(shù)據(jù)庫和連接字符集都置為utf8是較好的選擇；

• 使用mysql C API時(shí)，初始化數(shù)據(jù)庫句柄后馬上用mysql_options設(shè)定MYSQL_SET_CHARSET_NAME屬性為utf8，這樣就不用顯式地用 SET NAMES語句指定連接字符集，且用mysql_ping重連斷開的長(zhǎng)連接時(shí)也會(huì)把連接字符集重置為utf8；

• 對(duì)于mysql PHP API，一般頁面級(jí)的PHP程序總運(yùn)行時(shí)間較短，在連接到數(shù)據(jù)庫以后顯式用SET NAMES語句設(shè)置一次連接字符集即可；但當(dāng)使用長(zhǎng)連接時(shí)，請(qǐng)注意保持連接通暢并在斷開重連后用SET NAMES語句顯式重置連接字符集。

其他注意事項(xiàng)

• my.cnf中的default_character_set設(shè)置只影響mysql命令連接服務(wù)器時(shí)的連接字符集，不會(huì)對(duì)使用libmysqlclient庫的應(yīng)用程序產(chǎn)生任何作用！

• 對(duì)字段進(jìn)行的SQL函數(shù)操作通常都是以內(nèi)部操作字符集進(jìn)行的，不受連接字符集設(shè)置的影響。

• SQL語句中的裸字符串會(huì)受到連接字符集或introducer設(shè)置的影響，對(duì)于比較之類的操作可能產(chǎn)生完全不同的結(jié)果，需要小心！