這幾天又遇到了編碼的問題了，所以決定找一下資料，解決一下問題。在web開發中編碼問題時常存在，也是我們總要面對的問題。
“字符與編碼”是一個被經常討論的話題。即使這樣，時常出現的亂碼仍然困擾着大家。雖然我們有很多的辦法可以用來消除亂碼，但我們並不一定理解這些辦法的內在原理。而有的亂碼產生的原因，實際上由於底層代碼本身有問題所導致的。因此，不僅是初學者會對字符編碼感到模糊，有的底層開發人員同樣對字符編碼缺乏準確的理解。
首先熟悉一下（在網上找的資料）：
字符與編碼的發展：
從計算機對多國語言的支持角度看，大致可以分爲三個階段：
| 系統內碼 | 說明 | 系統 | |
| 階段一 | ASCII | 計算機剛開始只支持英語，其它語言不能夠在計算機上存儲和顯示。 | 英文 DOS |
| 階段二 | ANSI編碼 （本地化） |
爲使計算機支持更多語言，通常使用 0x80~0xFF 範圍的 2 個字節來表示 1 個字符。比如：漢字 '中' 在中文操作系統中，使用 [0xD6,0xD0] 這兩個字節存儲。 不同的國家和地區制定了不同的標準，由此產生了 GB2312, BIG5, JIS 等各自的編碼標準。這些使用 2 個字節來代表一個字符的各種漢字延伸編碼方式，稱爲 ANSI 編碼。在簡體中文系統下，ANSI 編碼代表 GB2312 編碼，在日文操作系統下，ANSI 編碼代表 JIS 編碼。 不同 ANSI 編碼之間互不兼容，當信息在國際間交流時，無法將屬於兩種語言的文字，存儲在同一段 ANSI 編碼的文本中。 |
中文 DOS，中文 Windows 95/98，日文 Windows 95/98 |
| 階段三 | UNICODE （國際化） |
爲了使國際間信息交流更加方便，國際組織制定了 UNICODE 字符集，爲各種語言中的每一個字符設定了統一併且唯一的數字編號，以滿足跨語言、跨平臺進行文本轉換、處理的要求。 | Windows NT/2000/XP，Linux，Java |
字符串在內存中的存放方法：
在 ASCII 階段，單字節字符串使用一個字節存放一個字符（SBCS）。比如，"Bob123" 在內存中爲：
| 42 | 6F | 62 | 31 | 32 | 33 | 00 |
 |
|
|
|
|
|
|
| B | o | b | 1 | 2 | 3 | \0 |
在使用 ANSI 編碼支持多種語言階段，每個字符使用一個字節或多個字節來表示（MBCS），因此，這種方式存放的字符也被稱作多字節字符。比如，"中文123" 在中文 Windows 95 內存中爲7個字節，每個漢字佔2個字節，每個英文和數字字符佔1個字節：
| D6 | D0 | CE | C4 | 31 | 32 | 33 | 00 |
|
|
|
|
|
|
||
| 中 | 文 | 1 | 2 | 3 | \0 | ||
在 UNICODE 被採用之後，計算機存放字符串時，改爲存放每個字符在 UNICODE 字符集中的序號。目前計算機一般使用 2 個字節（16 位）來存放一個序號（DBCS），因此，這種方式存放的字符也被稱作寬字節字符。比如，字符串 "中文123" 在 Windows 2000 下，內存中實際存放的是 5 個序號：
| 2D | 4E | 87 | 65 | 31 | 00 | 32 | 00 | 33 | 00 | 00 | 00 | ← 在 x86 CPU 中，低字節在前 |
|
|
|
|
|
|
|
||||||
| 中 | 文 | 1 | 2 | 3 | \0 | |||||||
一共佔 10 個字節。
字符 字節 和字符串的概念
 |
理解編碼的關鍵，是要把字符的概念和字節的概念理解準確。這兩個概念容易混淆，我們在此做一下區分：
| 概念描述 | 舉例 | |
| 字符 | 人們使用的記號，抽象意義上的一個符號。 | '1', '中', 'a', '$', '￥', …… |
| 字節 | 計算機中存儲數據的單元，一個8位的二進制數，是一個很具體的存儲空間。 | 0x01, 0x45, 0xFA, …… |
| ANSI 字符串 |
在內存中，如果“字符”是以 ANSI 編碼形式存在的，一個字符可能使用一個字節或多個字節來表示，那麼我們稱這種字符串爲 ANSI 字符串或者多字節字符串。 | "中文123" （佔7字節） |
| UNICODE 字符串 |
在內存中，如果“字符”是以在 UNICODE 中的序號存在的，那麼我們稱這種字符串爲 UNICODE 字符串或者寬字節字符串。 | L"中文123" （佔10字節） |
由於不同 ANSI 編碼所規定的標準是不相同的，因此，對於一個給定的多字節字符串，我們必須知道它採用的是哪一種編碼規則，才能夠知道它包含了哪些“字符”。而對於 UNICODE 字符串來說，不管在什麼環境下，它所代表的“字符”內容總是不變的。
字符集 與編碼
各個國家和地區所制定的不同 ANSI 編碼標準中，都只規定了各自語言所需的“字符”。比如：漢字標準（GB2312）中沒有規定韓國語字符怎樣存儲。這些 ANSI 編碼標準所規定的內容包含兩層含義：
- 使用哪些字符。也就是說哪些漢字，字母和符號會被收入標準中。所包含“字符”的集合就叫做“字符集”。
- 規定每個“字符”分別用一個字節還是多個字節存儲，用哪些字節來存儲，這個規定就叫做“編碼”。
各個國家和地區在制定編碼標準的時候，“字符的集合”和“編碼”一般都是同時制定的。因此，平常我們所說的“字符集”，比如：GB2312, GBK, JIS 等，除了有“字符的集合”這層含義外，同時也包含了“編碼”的含義。
“UNICODE 字符集”包含了各種語言中使用到的所有“字符”。用來給 UNICODE 字符集編碼的標準有很多種，比如：UTF-8, UTF-7, UTF-16, UnicodeLittle, UnicodeBig 等。
常用的編碼簡介
簡單介紹一下常用的編碼規則，爲後邊的章節做一個準備。在這裏，我們根據編碼規則的特點，把所有的編碼分成三類：
| 分類 | 編碼標準 | 說明 |
| 單字節字符編碼 | ISO-8859-1 | 最簡單的編碼規則，每一個字節直接作爲一個 UNICODE 字符。比如，[0xD6, 0xD0] 這兩個字節，通過 iso-8859-1 轉化爲字符串時，將直接得到 [0x00D6, 0x00D0] 兩個 UNICODE 字符，即 "ÖÐ"。 反之，將 UNICODE 字符串通過 iso-8859-1 轉化爲字節串時，只能正常轉化 0~255 範圍的字符。 |
| ANSI 編碼 | GB2312, BIG5, Shift_JIS, ISO-8859-2 …… |
把 UNICODE 字符串通過 ANSI 編碼轉化爲“字節串”時，根據各自編碼的規定，一個 UNICODE 字符可能轉化成一個字節或多個字節。 反之，將字節串轉化成字符串時，也可能多個字節轉化成一個字符。比如，[0xD6, 0xD0] 這兩個字節，通過 GB2312 轉化爲字符串時，將得到 [0x4E2D] 一個字符，即 '中' 字。 “ANSI 編碼”的特點： 1. 這些“ANSI 編碼標準”都只能處理各自語言範圍之內的 UNICODE 字符。 2. “UNICODE 字符”與“轉換出來的字節”之間的關係是人爲規定的。 |
| UNICODE 編碼 | UTF-8, UTF-16, UnicodeBig …… |
與“ANSI 編碼”類似的，把字符串通過 UNICODE 編碼轉化成“字節串”時，一個 UNICODE 字符可能轉化成一個字節或多個字節。 與“ANSI 編碼”不同的是： 1. 這些“UNICODE 編碼”能夠處理所有的 UNICODE 字符。 2. “UNICODE 字符”與“轉換出來的字節”之間是可以通過計算得到的。 |
我們實際上沒有必要去深究每一種編碼具體把某一個字符編碼成了哪幾個字節，我們只需要知道“編碼”的概念就是把“字符”轉化成“字節”就可以了。對於“UNICODE 編碼”，由於它們是可以通過計算得到的，因此，在特殊的場合，我們可以去了解某一種“UNICODE 編碼”是怎樣的規則。
以及亂碼產生的原因和解決辦法
| 對編碼的誤解 | |
| 誤解一 | 在將“字節串”轉化成“UNICODE 字符串”時，比如在讀取文本文件時，或者通過網絡傳輸文本時，容易將“字節串”簡單地作爲單字節字符串，採用每“一個字節”就是“一個字符”的方法進行轉化。 而實際上，在非英文的環境中，應該將“字節串”作爲 ANSI 字符串，採用適當的編碼來得到 UNICODE 字符串，有可能“多個字節”才能得到“一個字符”。 通常，一直在英文環境下做開發的程序員們，容易有這種誤解。 |
| 誤解二 |
在 DOS，Windows 98 等非 UNICODE 環境下，字符串都是以 ANSI 編碼的字節形式存在的。這種以字節形式存在的字符串，必須知道是哪種編碼才能被正確地使用。這使我們形成了一個慣性思維：“字符串的編碼”。
|
第一種誤解，往往是導致亂碼產生的原因。第二種誤解，往往導致本來容易糾正的亂碼問題變得更復雜。
在這裏，我們可以看到，其中所講的“誤解一”，即採用每“一個字節”就是“一個字符”的轉化方法，實際上也就等同於採用 iso-8859-1 進行轉化。因此，我們常常使用 bytes = string.getBytes("iso-8859-1") 來進行逆向操作，得到原始的“字節串”。然後再使用正確的 ANSI 編碼，比如 string = new String(bytes, "GB2312")，來得到正確的“UNICODE 字符串”。
先說Java。
JVM裏面的任何字符串資源都是Unicode，就是說，任何String類型的數據都是Unicode編碼。沒有例外。既然只有一種編碼，那麼，我們可以這麼說，JVM裏面的String是不帶編碼的。String相當於 char[]。
JVM裏面的 byte[] 數據是帶編碼的。比如，Big5，GBK，GB2312，UTF-8之類的。
一個GBK編碼的byte[] 轉換成 String，其實就是從GBK編碼向Unicode編碼轉換。
一個String轉換成一個Big5編碼的byte[]，其實就是從Unicode編碼向Big5編碼轉換。
所以，Unicode是所有編碼轉換的中間介質。所有的編碼都有一個轉換器可以轉換到Unicode，而Unicode也可以轉換到其他所有的編碼。這樣構成了一個總線結構。
非UNICODE程序在不同語言環境間移植時的亂碼
非 UNICODE 程序中的字符串，都是以某種 ANSI 編碼形式存在的。如果程序運行時的語言環境與開發時的語言環境不同，將會導致 ANSI 字符串的顯示失敗。
比如，在日文環境下開發的非 UNICODE 的日文程序界面，拿到中文環境下運行時，界面上將顯示亂碼。如果這個日文程序界面改爲採用 UNICODE 來記錄字符串，那麼當在中文環境下運行時，界面上將可以顯示正常的日文。
由於客觀原因，有時候我們必須在中文操作系統下運行非 UNICODE 的日文軟件，這時我們可以採用一些工具，比如，南極星，AppLocale 等，暫時的模擬不同的語言環境。
網頁間提交字串
當頁面中的表單提交字符串時，首先把字符串按照當前頁面的編碼，轉化成字節串。然後再將每個字節轉化成 "%XX" 的格式提交到 Web 服務器。比如，一個編碼爲 GB2312 的頁面，提交 "中" 這個字符串時，提交給服務器的內容爲 "%D6%D0"。
在服務器端，Web 服務器把收到的 "%D6%D0" 轉化成 [0xD6, 0xD0] 兩個字節，然後再根據 GB2312 編碼規則得到 "中" 字。
在 Tomcat 服務器中，request.getParameter() 得到亂碼時，常常是因爲前面提到的“誤解一”造成的。默認情況下，當提交 "%D6%D0" 給 Tomcat 服務器時，request.getParameter() 將返回 [0x00D6, 0x00D0] 兩個 UNICODE 字符，而不是返回一個 "中" 字符。因此，我們需要使用 bytes = string.getBytes("iso-8859-1") 得到原始的字節串，再用 string = new String(bytes, "GB2312") 重新得到正確的字符串 "中"。
從數據庫讀取字符串
通過數據庫客戶端（比如 ODBC 或 JDBC）從數據庫服務器中讀取字符串時，客戶端需要從服務器獲知所使用的 ANSI 編碼。當數據庫服務器發送字節流給客戶端時，客戶端負責將字節流按照正確的編碼轉化成 UNICODE 字符串。
如果從數據庫讀取字符串時得到亂碼，而數據庫中存放的數據又是正確的，那麼往往還是因爲前面提到的“誤解一”造成的。解決的辦法還是通過 string = new String( string.getBytes("iso-8859-1"), "GB2312") 的方法，重新得到原始的字節串，再重新使用正確的編碼轉化成字符串。
電子郵件中的字符串
當一段 Text 或者 HTML 通過電子郵件傳送時，發送的內容首先通過一種指定的字符編碼轉化成“字節串”，然後再把“字節串”通過一種指定的傳輸編碼（Content-Transfer-Encoding）進行轉化得到另一串“字節串”。比如，打開一封電子郵件源代碼，可以看到類似的內容：
| Content-Type: text/plain; charset="gb2312" Content-Transfer-Encoding: base64 sbG+qcrQuqO17cf4yee74bGjz9W7+b3wudzA7dbQ0MQNCg0KvPKzxqO6uqO17cnnsaPW0NDEDQoNCg== |
最常用的 Content-Transfer-Encoding 有 Base64 和 Quoted-Printable 兩種。在對二進制文件或者中文文本進行轉化時，Base64 得到的“字節串”比 Quoted-Printable 更短。在對英文文本進行轉化時，Quoted-Printable 得到的“字節串”比 Base64 更短。
郵件的標題，用了一種更簡短的格式來標註“字符編碼”和“傳輸編碼”。比如，標題內容爲 "中"，則在郵件源代碼中表示爲：
| // 正確的標題格式 Subject: =？GB231 2 ？B?1tA= ?= |
其中，
- 第一個“=?”與“?”中間的部分指定了字符編碼，在這個例子中指定的是 GB2312。
- “?”與“?”中間的“B”代表 Base64。如果是“Q”則代表 Quoted-Printable。
- 最後“?”與“?=”之間的部分，就是經過 GB2312 轉化成字節串，再經過 Base64 轉化後的標題內容。
如果“傳輸編碼”改爲 Quoted-Printable，同樣，如果標題內容爲 "中"：
| // 正確的標題格式 Subject: =?GB2312?Q?=D6=D0?= |
如果閱讀郵件時出現亂碼，一般是因爲“字符編碼”或“傳輸編碼”指定有誤，或者是沒有指定。比如，有的發郵件組件在發送郵件時，標題 "中"：
| // 錯誤的標題格式 Subject: =?ISO-8859-1?Q?=D6=D0?= |
這樣的表示，實際上是明確指明瞭標題爲 [0x00D6, 0x00D0]，即 "ÖÐ"，而不是 "中"。