python 讀取帶BOM的utf-8格式文件

**

• UTF有哪些分類？

**

UTF-8分爲兩種，一種是不帶BOM的，一種是帶BOM的。其中第一種不帶BOM的是標準形式，第二種帶BOM的主要是微軟的習慣。

**

• 爲什麼有BOM的UTF-8？

**
微軟在UTF-8中使用BOM（Byte order mark）是因爲這樣可以將UTF-8和ASCII等編碼明確區分開。
windows對於utf-8格式的文件存儲默認是帶有BOM的格式

**

• 爲什麼BOM不受歡迎？

**
因爲在UNIX環境下，很多的UNIX程序不認識BOM。主要是在UNIX所有腳本語言首行爲#！標示，它依賴於shell解析，而很多shell出於兼容的考慮不檢測BOM，所以加進BOM時shell會把它解釋爲某個普通字符輸入導致破壞#！標示。比如很多現代腳本語言，例如python，其解釋器本身是能處理BOM的，但是shell卡在這裏。
因此我們在linux服務器上讀取這些txt文件時，會遇到如下報錯：
\xef\xbb\xbf…

**

• 怎麼解決？

**
使用codecs庫，將文件轉換爲utf-8-sig格式

import codecs

with open("xx.txt",'r','utf-8-sig') as file:
        line = file.readlines();