全文結構
1. 字符編碼筆記：ASCII，Unicode和UTF-8
2. Unicode和UTF-8之間的轉換詳解
3. 字符串UTF-8與ASCII相互轉換
**************************************************************************************
URL: http://www.ruanyifeng.com/blog/2007/10/ascii_unicode_and_utf-8.html
**************************************************************************************
字符編碼筆記：ASCII，Unicode和UTF-8
今天中午，我突然想搞清楚Unicode和UTF-8之間的關係，於是就開始在網上查資料。
結果，這個問題比我想象的複雜，從午飯後一直看到晚上9點，纔算初步搞清楚。
下面就是我的筆記，主要用來整理自己的思路。但是，我儘量試圖寫得通俗易懂，希望能對其他朋友有用。畢竟，字符編碼是計算機技術的基石，想要熟練使用計算機，就必須懂得一點字符編碼的知識。
1. ASCII碼
我們知道，在計算機內部，所有的信息最終都表示爲一個二進制的字符串。每一個二進制位（bit）有0和1兩種狀態，因此八個二進制位就可以組合出 256種狀態，這被稱爲一個字節（byte）。也就是說，一個字節一共可以用來表示256種不同的狀態，每一個狀態對應一個符號，就是256個符號，從 0000000到11111111。
上個世紀60年代，美國製定了一套字符編碼，對英語字符與二進制位之間的關係，做了統一規定。這被稱爲ASCII碼，一直沿用至今。
ASCII碼一共規定了128個字符的編碼，比如空格“SPACE”是32（二進制00100000），大寫的字母A是65（二進制01000001）。這128個符號（包括32個不能打印出來的控制符號），只佔用了一個字節的後面7位，最前面的1位統一規定爲0。
2、非ASCII編碼
英語用128個符號編碼就夠了，但是用來表示其他語言，128個符號是不夠的。比如，在法語中，字母上方有注音符號，它就無法用ASCII碼錶示。 於是，一些歐洲國家就決定，利用字節中閒置的最高位編入新的符號。比如，法語中的é的編碼爲130（二進制10000010）。這樣一來，這些歐洲國家使 用的編碼體系，可以表示最多256個符號。
但是，這裏又出現了新的問題。不同的國家有不同的字母，因此，哪怕它們都使用256個符號的編碼方式，代表的字母卻不一樣。比如，130在法語編碼 中代表了é，在希伯來語編碼中卻代表了字母Gimel (ג)，在俄語編碼中又會代表另一個符號。但是不管怎樣，所有這些編碼方式中，0—127表示的符號是一樣的，不一樣的只是128—255的這一段。
至於亞洲國家的文字，使用的符號就更多了，漢字就多達10萬左右。一個字節只能表示256種符號，肯定是不夠的，就必須使用多個字節表達一個符號。 比如，簡體中文常見的編碼方式是GB2312，使用兩個字節表示一個漢字，所以理論上最多可以表示256x256=65536個符號。
中文編碼的問題需要專文討論，這篇筆記不涉及。這裏只指出，雖然都是用多個字節表示一個符號，但是GB類的漢字編碼與後文的Unicode和UTF-8是毫無關係的。
3.Unicode
正如上一節所說，世界上存在着多種編碼方式，同一個二進制數字可以被解釋成不同的符號。因此，要想打開一個文本文件，就必須知道它的編碼方式，否則用錯誤的編碼方式解讀，就會出現亂碼。爲什麼電子郵件常常出現亂碼？就是因爲發信人和收信人使用的編碼方式不一樣。
可以想象，如果有一種編碼，將世界上所有的符號都納入其中。每一個符號都給予一個獨一無二的編碼，那麼亂碼問題就會消失。這就是Unicode，就像它的名字都表示的，這是一種所有符號的編碼。
Unicode當然是一個很大的集合，現在的規模可以容納100多萬個符號。每個符號的編碼都不一樣，比如，U+0639表示阿拉伯字母Ain，U+0041表示英語的大寫字母A，U+4E25表示漢字“嚴”。具體的符號對應表，可以查詢unicode.org ，或者專門的漢字對應表 。
4. Unicode的問題
需要注意的是，Unicode只是一個符號集，它只規定了符號的二進制代碼，卻沒有規定這個二進制代碼應該如何存儲。
比如，漢字“嚴”的unicode是十六進制數4E25，轉換成二進制數足足有15位（100111000100101），也就是說這個符號的表示至少需要2個字節。表示其他更大的符號，可能需要3個字節或者4個字節，甚至更多。
這裏就有兩個嚴重的問題，第一個問題是，如何才能區別unicode和ascii？計算機怎麼知道三個字節表示一個符號，而不是分別表示三個符號 呢？第二個問題是，我們已經知道，英文字母只用一個字節表示就夠了，如果unicode統一規定，每個符號用三個或四個字節表示，那麼每個英文字母前都必 然有二到三個字節是0，這對於存儲來說是極大的浪費，文本文件的大小會因此大出二三倍，這是無法接受的。
它們造成的結果是：1）出現了unicode的多種存儲方式，也就是說有許多種不同的二進制格式，可以用來表示unicode。2）unicode在很長一段時間內無法推廣，直到互聯網的出現。
5.UTF-8
互聯網的普及，強烈要求出現一種統一的編碼方式。UTF-8就是在互聯網上使用最廣的一種unicode的實現方式。其他實現方式還包括UTF-16和UTF-32，不過在互聯網上基本不用。重複一遍，這裏的關係是，UTF-8是Unicode的實現方式之一。
UTF-8最大的一個特點，就是它是一種變長的編碼方式。它可以使用1~4個字節表示一個符號，根據不同的符號而變化字節長度。
UTF-8的編碼規則很簡單，只有二條：
1）對於單字節的符號，字節的第一位設爲0，後面7位爲這個符號的unicode碼。因此對於英語字母，UTF-8編碼和ASCII碼是相同的。
2）對於n字節的符號（n>1），第一個字節的前n位都設爲1，第n+1位設爲0，後面字節的前兩位一律設爲10。剩下的沒有提及的二進制位，全部爲這個符號的unicode碼。
下表總結了編碼規則，字母x表示可用編碼的位。
Unicode符號範圍 | UTF-8編碼方式
(十六進制) | （二進制）
--------------------+---------------------------------------------
0000 0000-0000 007F | 0xxxxxxx
0000 0080-0000 07FF | 110xxxxx 10xxxxxx
0000 0800-0000 FFFF | 1110xxxx 10xxxxxx 10xxxxxx
0001 0000-0010 FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
下面，還是以漢字“嚴”爲例，演示如何實現UTF-8編碼。
已知“嚴”的unicode是4E25（100111000100101），根據上表，可以發現4E25處在第三行的範圍內（0000 0800-0000 FFFF），因此“嚴”的UTF-8編碼需要三個字節，即格式是“1110xxxx 10xxxxxx 10xxxxxx”。然後，從“嚴”的最後一個二進制位開始，依次從後向前填入格式中的x，多出的位補0。這樣就得到了，“嚴”的UTF-8編碼是 “11100100 10111000 10100101”，轉換成十六進制就是E4B8A5。
6. Unicode與UTF-8之間的轉換
通過上一節的例子，可以看到“嚴”的Unicode碼是4E25，UTF-8編碼是E4B8A5，兩者是不一樣的。它們之間的轉換可以通過程序實現。
在Windows平臺下，有一個最簡單的轉化方法，就是使用內置的記事本小程序Notepad.exe。打開文件後，點擊“文件”菜單中的“另存爲”命令，會跳出一個對話框，在最底部有一個“編碼”的下拉條。
裏面有四個選項：ANSI，Unicode，Unicode big endian 和 UTF-8。
1）ANSI是默認的編碼方式。對於英文文件是ASCII編碼，對於簡體中文文件是GB2312編碼（只針對Windows簡體中文版，如果是繁體中文版會採用Big5碼）。
2）Unicode編碼指的是UCS-2編碼方式，即直接用兩個字節存入字符的Unicode碼。這個選項用的little endian格式。
3）Unicode big endian編碼與上一個選項相對應。我在下一節會解釋little endian和big endian的涵義。
4）UTF-8編碼，也就是上一節談到的編碼方法。
選擇完”編碼方式“後，點擊”保存“按鈕，文件的編碼方式就立刻轉換好了。
7. Little endian和Big endian
上一節已經提到，Unicode碼可以採用UCS-2格式直接存儲。以漢字”嚴“爲例，Unicode碼是4E25，需要用兩個字節存儲，一個字節 是4E，另一個字節是25。存儲的時候，4E在前，25在後，就是Big endian方式；25在前，4E在後，就是Little endian方式。
這兩個古怪的名稱來自英國作家斯威夫特的《格列佛遊記》。在該書中，小人國裏爆發了內戰，戰爭起因是人們爭論，吃雞蛋時究竟是從大頭(Big- Endian)敲開還是從小頭(Little-Endian)敲開。爲了這件事情，前後爆發了六次戰爭，一個皇帝送了命，另一個皇帝丟了王位。
因此，第一個字節在前，就是”大頭方式“（Big endian），第二個字節在前就是”小頭方式“（Little endian）。
那麼很自然的，就會出現一個問題：計算機怎麼知道某一個文件到底採用哪一種方式編碼？
Unicode規範中定義，每一個文件的最前面分別加入一個表示編碼順序的字符，這個字符的名字叫做”零寬度非換行空格“（ZERO WIDTH NO-BREAK SPACE），用FEFF表示。這正好是兩個字節，而且FF比FE大1。
如果一個文本文件的頭兩個字節是FE FF，就表示該文件採用大頭方式；如果頭兩個字節是FF FE，就表示該文件採用小頭方式。
8. 實例
下面，舉一個實例。
打開”記事本“程序Notepad.exe，新建一個文本文件，內容就是一個”嚴“字，依次採用ANSI，Unicode，Unicode big endian 和 UTF-8編碼方式保存。
然後，用文本編輯軟件UltraEdit中 的”十六進制功能“，觀察該文件的內部編碼方式。
1）ANSI：文件的編碼就是兩個字節“D1 CF”，這正是“嚴”的GB2312編碼，這也暗示GB2312是採用大頭方式存儲的。
2）Unicode：編碼是四個字節“FF FE 25 4E”，其中“FF FE”表明是小頭方式存儲，真正的編碼是4E25。
3）Unicode big endian：編碼是四個字節“FE FF 4E 25”，其中“FE FF”表明是大頭方式存儲。
4）UTF-8：編碼是六個字節“EF BB BF E4 B8 A5”，前三個字節“EF BB BF”表示這是UTF-8編碼，後三個“E4B8A5”就是“嚴”的具體編碼，它的存儲順序與編碼順序是一致的。
9. 延伸閱讀
* The Absolute Minimum Every Software Developer Absolutely, Positively Must Know About Unicode and Character Sets （關於字符集的最基本知識）
* RFC3629：UTF-8, a transformation format of ISO 10646 （如果實現UTF-8的規定）
（完）
__________________________________________________________________________________________
另一篇
**************************************************************************************
URL: http://blog.csdn.net/liusichen_0/archive/2009/03/24/4020250.aspx
**************************************************************************************
Unicode和UTF-8之間的轉換詳解
2008-04-29 13:38
通過這幾天的研究，終於明白了Unicode
和UTF-8
之間編碼的區別。Unicode
是一個字符集，而UTF-8
是Unicode
的其中一種，Unicode
是定長的都爲雙字節，而UTF-8
是可變的，對於漢字來說Unicode
佔有的字節比UTF-8
佔用的字節少1
個字節。Unicode
爲雙字節，而UTF-8
中漢字佔三個字節。
網魂小兵
http://xdotnet.cnblogs.com
UTF-8
編碼字符理論上可以最多到6
個字節長,
然而16
位BMP
（
Basic Multilingual Plane
）字符最多只用到3
字節長。下面看一下UTF-8
編碼表：
U-00000000 - U-0000007F: 0xxxxxxx
U-00000080 - U-000007FF: 110xxxxx 10xxxxxx
U-00000800 - U-0000FFFF: 1110xxxx 10xxxxxx 10xxxxxx
U-00010000 - U-001FFFFF: 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
U-00200000 - U-03FFFFFF: 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
U-04000000 - U-7FFFFFFF: 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
xxx
的位置由字符編碼數的二進制表示的位填入， 越靠右的 x
具有越少的特殊意義，只用最短的那個足夠表達一個字符編碼數的多字節串。 注意在多字節串中,
第一個字節的開頭"1"
的數目就是整個串中字節的數目。而第一行中以0
開頭，是爲了兼容ASCII
編碼，爲一個字節，第二行就爲雙字節字符串，第三行爲3
字節，如漢字就屬於這種，以此類推。(
個人認爲：其實我們可以簡單的把前面的1
的個數看成字節數
)
網魂小兵
http://xdotnet.cnblogs.com
爲了要將Unicode
轉換爲UTF-8
，當然要知道他們的區別到底在什麼地方。下面來看一下，在Unicode
中的編碼是怎樣轉換成UTF-8
的，在UTF-8
中，如果一個字符
的字節小於0x80
（128
）則爲ASCII
字符，佔一個字節，可以不用轉換，因爲UTF-8
兼容ASCII
編碼。假如在Unicode
中漢字“
你”
的編碼爲“u4F60”
，把它轉換爲二進制爲
100111101100000
，然後按照UTF-8
的方法進行轉換。可以將Unicode
二進制從低位往高位取出二進制數字，每次取6
位，如上述的二進制就可以分別取出爲如下所示的格式，前面按格式填補，不足8
位用0
填補。
unicode: 100111101100000 4F60
utf-8: 1110
0100,10
111101,10
100000 E4BDA0
從上面就可以很直觀的看出Unicode
到UTF-8
之間的轉換，當然知道了UTF-8
的格式後，就可以進行逆運算，就是按照格式把它在二進制中的相應位置上取出，然後在轉換就是所得到的Unicode
字符了（這個運算可以通過“
位移”
來完成）。
網魂小兵
http://xdotnet.cnblogs.com
如上述的“
你”
的轉換，由於其值大於0x800
小於0x10000
，因此可以判斷爲三字節存儲，則最高位需要向右移“12”
位再根據三字節格式的最高位爲11100000
（0xE0
）求或（|
）就可以得到最高位的值了。同理第二位則是右移“6”
位，則還剩下最高位和第二位的二進制值，可以通過與111111
（0x3F
）求按位於（&
）操作，再和11000000
（0x80
）求或（|
）。第三位就不用移位了，只要直接取最後六位（與111111
（ox3F
）取&
），在與11000000(0x80)
求或（|
）。OK
了，轉換成功！在VC++
中的代碼如下所示（Unicode
到UTF-8
的轉換）。
1
const
wchar_t pUnicode = L"
你";
2
char
utf8[3+1];
3
memset(utf8,0,4);
4
utf8[0] = 0xE0|(pUnicode>>12);
5
utf8[1] = 0x80|((pUnicode>>6)&0x3F);
6
utf8[2] = 0x80|(pUnicode&0x3F);
7
utf8[3] = "/0";
8
//char[4]
就是UTF-8
的字符“
你”
了。
當然在UTF-8
到Unicode
的轉換也是通過移位等來完成的，就是把UTF-8
那些格式相應的位置的二進制數給揪出來。在上述例子中“
你”
爲三個字節，因此要每個字節進行處理，有高位到低位進行處理。在UTF-8
中“
你”
爲
1110
0100,10
111101,10
100000
。從高位起即第一個字節1110
0100
就是把其中的"0100"
給取出來，這個很簡單隻要和11111
（0x1F
）取與（&
），由三字節可以得知最到位肯定位於12
位之前，因爲每次取六位。所以還要將得到的結果左移12
位，最高位也就這樣完成了0100,000000,000000
。而第二位則是要把“111101”
給取出來，則只需將第二字節10
111101
和111111(0x3F)
取與（&
）。在將所得到的結果左移6
位與最高字節所得的結果取或（|
），第二位就這樣完成了，得到的結果爲0100,111101,000000
。以此類推最後一位直接與111111
（0x3F
）取與（&
），再與前面所得的結果取或（|
）即可得到結果0100,111101,100000
。
OK
，轉換成功！在VC++
中的代碼如下所示（UTF-8
到Unicode
的轉換）。
1
//UTF-8
格式的字符串
2
const
char
* utf8 = "
你";
3
wchar_t unicode;
4
unicode = (utf8[0] & 0x1F) << 12;
5
unicode |= (utf8[1] & 0x3F) << 6;
6
unicode |= (utf8[2] & 0x3F);
7
//unicode is ok!
當然在編程過程中不可能只轉換一個字符，這裏需要注意的是字符的長度一定要算清楚，不然會帶來... 以上就是我這幾天研究的結果，至於Unicode 的轉換爲GB2312 在MFC 中Windows 有自帶的API （WideCharToMultiByte ）可以轉換。這樣也就能夠將UTF-8 格式轉換爲GB2312 了，這裏就不再贅述，如果大家有更好的方法希望指教。
__________________________________________________________________________________________
另一篇
**************************************************************************************
URL: http://blog.csdn.net/axes/archive/2005/12/10/548430.aspx
**************************************************************************************
字符串UTF-8與ASCII相互轉換
用法
編碼
Convert(str,936,CP_UTF8);
解碼
Convert(str,CP_UTF8,936);
