用Python讀寫Excel文件
四種python處理excel模塊PK
我主要嘗試了四種工具,在此並不會給出他們的排名,因爲在不同的應用場景下,做出的選擇會不同。
XlsxWriter | xlrd&xlwt | OpenPyXL | Microsoft Excel API | |
---|---|---|---|---|
介紹 | 可以創建Excel 2007或更高版本的XLSX文件 | 即python-excel,含xlrd、xlwt和xlutils三大模塊,分別提供讀、寫和其他功能 | 可以讀寫Excel 2007 XLSX和XLSM文件 | 直接通過COM組件與Microsoft Excel進程通信調用其各種功能實現對Excel文件的操作 |
讀 | × | √ | √ | √ |
寫 | √ | √ | √ | √ |
修改 | × | × | √ | |
.xls | × | √ | × | √ |
.xlsx | √ | √ | √ | |
大文件 | √ | × | √ | × |
功能 | 強 | 弱 | 一般 | 超強 |
速度 | 快 | 快 | 快 | 超慢 |
系統 | 無限制 | 無限制 | 無限制 | Windows + Excel |
適用場景 | 要創建XLSX文件 不需要讀取已有文件 需要實現比較複雜的功能 數據量可能會很大 需要跨平臺 | 要讀取XLS或XLSX文件 要生成XLS文件 需要的功能不太複雜 需要跨平臺 | 要處理XLSX文件 需要修改已有文件,或者在寫入過程中需要不斷修改 需要的功能比較複雜 數據量可能會很大 需要跨平臺 | 需要處理各種文件格式 需要用到特別複雜的功能 在修改文件時,不希望對原有信息造成任何意外破壞 數據量很小,或者願意等待 僅在Windows中使用 |
XlsxWriter
XlsxWriter是我最終選擇的用於寫操作的工具。顧名思義,它只能用來寫文件。
這應該是個比較新的項目,在GitHub上看它最早的提交是在2013年1月份。其官方文檔中宣稱它支持:
100% compatible Excel XLSX files.
Full formatting.
Merged cells.
Defined names.
Charts.
Autofilters.
Data validation and drop down lists.
Conditional formatting.
Worksheet PNG/JPEG images.
Rich multi-format strings.
Cell comments.
Memory optimisation mode for writing large files.
優點
一、功能比較強
相對而言,這是除Excel自身之外功能最強的工具了。比如我就用到了它提供的:字體設置、前景色背景色、border設置、視圖縮放(zoom)、單元格合併、autofilter、freeze panes、公式、data validation、單元格註釋、行高和列寬設置等等。
最讓我驚奇的是,用它生成的帶有單元格註釋的Excel文件,不論是Excel 2007還是Excel 2013都可正常打開(下面會提到,這個任務用Excel自身都無法完成)。
二、支持大文件寫入
如果數據量非常大,可以啓用constant memory模式,這是一種順序寫入模式,得到一行數據就立刻寫入一行,而不會把所有的數據都保持在內存中。
缺點
一、不支持讀取和修改
作者並沒有打算做一個XlsxReader來提供讀取操作。不能讀取,也就無從修改了。它只能用來創建新的文件。我是利用xlrd把需要的信息讀入後,用XlsxWriter創建全新的文件。
另外,即使是創建到一半Excel文件,也是無法讀取已經創建出來的內容的(信息應該在,但是並沒有相應的接口)。因爲它的主要方法是write而不是set。當你在某個單元格寫入數據後,除非你自己保存了相關的內容,否則還是沒有辦法讀出已經寫入的信息。從這個角度看,你無法做到讀出->修改->寫回,只能是寫入->寫入->寫入。
二、不支持XLS文件
XLS是Office 2013或更早版本所使用的格式,是一種二進制格式的文件。XLSX則是用一系列XML文件組成的(最後的X代表了XML)一個壓縮包。如果非要創建低版本的XLS文件,就請移步xlwt吧。
三、暫時不支持透視表(Pivot Table)
透視表是非常麻煩的東西,除了自身複雜的結構外,還需要一套數據緩存。我向作者提出了這個需求,不過這是個很難完全實現的功能,我們慢慢期待吧。
xlrd&xlwt
我的程序在第一版的時候,使用xlwt創建XLS文件,然後通過Microsoft Excel API將其轉換爲XLSX文件,並寫入高級的Data Validation(Excel 2007的Data Validation比Excel 2003要強大不少)和單元格註釋。
我的程序最終的版本也依然用xlrd從已有的文件中讀出所需的信息。
xlrd&xlwt主要是針對Office 2013或更早版本的XLS文件格式。
優點
一、支持XLS格式
XlsxWriter和OpenPyXL都不支持XLS格式,從這個角度看,xlrd&xlwt仍然有一定的不可替代性。
缺點
一、對XLSX支持比較差
目前xlrd已經可以讀取XLSX文件了,有限地支持。至於xlwt我沒有試驗過,估計是夠嗆。
二、對修改的支持比較差
xlrd和xlwt是兩個相對獨立的模塊,雖然xlutils提供方法幫助你把xlrd.Book對象複製到xlwt.Workbook對象,但跟XlsxWriter類似,後者只是提供write方法,使得你無法很容易地獲取當前已經寫入的數據並進行有針對性的修改。如果非要這樣做,你要不斷地保存,然後再用新的xlrd.Book對象讀取你要的信息,還是比較麻煩的。
三、功能很弱
除了最基本的寫入數據和公式,xlwt所提供的功能非常少(Excel 2013本身支持的功能也就很少)。對於讀取也是一樣的,很多信息在讀入時就丟失掉了。
OpenPyXL
OpenPyXL是比較綜合的一個工具,能讀能寫能修改,功能還算可以但也有很大的缺陷。我在中間版本的時候是打算完全依賴它的,但後來發現一個嚴重的問題就放棄了。
優點
一、能讀能寫能修改
OpenPyXL的工作模式跟XlsxWriter和xlwt有很大的區別,它用的是getter/setter模式。你可以隨時讀取某個單元格的內容,並根據其內容進行相應的修改,OpenPyXL會幫你記住每個單元格的狀態。
特別需要注意的一點:雖然它支持修改已有文件,但由於其所支持的功能有限,讀入文件時會忽略掉它所不支持的內容,再寫入時,這些內容就丟失了。因此使用時一定要慎重。比如下面的缺點中提到它無法讀入公式,那如果你修改一個帶有公式的文件,保存之後,所有的公式就都沒有了。
二、功能還算可以
整體來講,它所支持的功能介於XlsxWriter和xlwt之間。
缺點
一、不支持XLS
這件事情只能讓xlrd和xlwt去做。
二、不支持讀取公式
這其實是個不太簡單的事情,雖然我沒嘗試過,但相信xlrd也做不好這件事。
Excel的單元格如果是一個公式,它內部會同時保存公式本身和運算結果的緩存。用OpenPyXL讀取單元格內容,它不會告訴你這個單元格的公式是什麼,甚至不會告訴你這個單元格存的是公式,它只會拿到這個緩存的運算結果。我本來想利用它判別單元格是不是用了公式,然後做出不同的處理。結果遇到了這個問題,最後只好採取了其他變通的方式去做。
Microsoft Excel API
大部分Windows環境的開發人員都會選擇Microsoft Excel API。實際上不僅僅是Python,幾乎各種語言都有相應的方法使用它,因爲核心的邏輯完全是由Microsft Excel自身提供的。語言相關的部分只是負責跟Windows的COM組件進行通信。
在Python中首先需要安裝Python for Windows extensions(pywin32),具體的文檔可以查閱Win32 Modules和Python COM。
當然你還必須要安裝某一個版本的Microsoft Office Excel,它內部的DLL負責實際的操作。
優點
一、最大的優點:強大無極限
因爲直接與Excel進程通信,你可以做任何在Excel裏可以做的事情。
二、文檔豐富
MSDN上的文檔絕對是世界上最優秀的文檔。沒有之一。
三、調試方便
你完全可以直接在Excel裏面用宏先調試你想要的效果。甚至如果你不清楚怎麼用程序實現某個操作,你可以通過宏錄製的方法得到該操作的處理代碼。
缺點
一、致命的缺點:慢到死
因爲需要與Excel進程通信,其效率是非常低的。
如果讓Excel窗口可見,隨着程序的運行,你可以看到每一句程序所帶來的變化,單元格的內容一個一個地改變。如果要寫入的數據很多,那速度是無法忍受的。
二、平臺限制
目前還沒有發現可以在非Windows系統使用它的方法。
另外,基於它的程序能做什麼事情,很大程度上依賴於當前系統所安裝的Excel版本。不同的版本在功能上有很大的差異,API也會有差異。用起來會比較麻煩。
三、Excel自身bug導致的問題
我剛好發現了其中一個,這和Python沒有任何關係,可以完全在Excel中手動復現。在Excel 2007中隨便創建一個文件,給某個單元格添加註釋,保存。換臺電腦,用Excel 2013打開,就會報錯,然後註釋就消失了。
同樣如果你的程序在一臺裝有Excel 2007的機器上創建一個帶有註釋的Excel文件,把這個文件拿到Excel 2013中打開也會報錯,也看不到註釋。反過來也一樣。
關於初始化
Excel的com接口的具體細節我就不介紹了,需要的話直接查閱相關的MSDN文檔即可。這裏只提幾個特殊的小問題。
要想得到一個可以操作的excel對象,一般可以有兩種方式:
import win32com.client
excel = win32com.client.Dispatch('Excel.Application')
import win32com.client
excel = win32com.client.DispatchEx('Excel.Application')
二者的區別在於,Dispatch方法會試圖尋找並複用一個已有的Excel進程(比如你已經在運行着的Excel程序),而DispatchEx則一定會創建一個新的Excel進程。一般情況使用前者就可以了,還能節省一些資源的開銷。但也會帶來一些麻煩,有一些狀態是在一個Excel進程內共享的,你在同進程的其他窗口內操作有可能會影響到Python程序所要進行的處理,導致各種錯誤。比如當你手動開啓的Excel窗口中,某個單元格正處於編輯狀態,那Python程序控制的大部分操作都有可能失敗(即使它操作的是另一個文件),因爲一個Excel進程中無法讓兩個單元格同時被編輯。
爲了避免麻煩,我一般都使用DispatchEx方法。
關於窗口可見
可以讓新啓動的Excel進程窗口可見,就像你通過雙擊桌面上的圖標啓動一樣,程序所控制的每一步操作,在這個窗口中都可以觀察得到。你也可以同時進行手動的操作,但一旦這樣做,很有可能使你的Python程序崩潰。
窗口不可見也會帶來一些麻煩,前面說了,通過Python啓動的Excel進程跟你直接從桌面打開的Excel進程沒有什麼區別,在使用Excel的過程中,我們經常會遇到各種彈出的錯誤、警告或者提示框,這些在用Python處理時也有可能遇到。尤其當你的程序還沒完全調試好時。
我一般都會讓程序控制的Excel進程在調試過程中可見,正式使用時不可見,通過類似這樣的命令(假設你有一個叫做is_debug的變量記錄當前是否在調試狀態):
excel = win32com.client.DispatchEx('Excel.Application')
if is_debug:
excel.Visible = True
關於保存並覆蓋已有文件
打開和保存文件的細節不在這裏多說了,可以查看MSDN中相關的API介紹,非常詳細。這裏只說一下在另存爲時,如果目標文件已經存在怎麼辦。Excel的API另存爲方法似乎並沒有提供參數決定是否直接覆蓋同名的目標文件,在窗口操作中,這種情況會彈出一個確認框來讓用戶決定。我們的程序當然不想這麼做,實際上如果你按照上面所說的讓窗口不可見,你也就看不到彈出的窗口。
可以把DisplayAlert屬性關閉,這樣Excel就不會彈出確認窗,而是直接覆蓋同名文件。
orig_display_alerts = excel.DisplayAlerts
excel.DisplayAlerts = False
try:
book.SaveAs(save_as_file_path)
finally:
excel.DisplayAlerts = orig_display_alerts
關於結束Excel進程
進程是一種資源,我們申請了資源,在用完之後就必須要釋放掉。尤其如果你隱藏了Excel窗口,用戶只有查看系統進程,否則無法關閉你所開啓的進程。
但是一個Excel進程是可以同時開啓多個文件的,這些文件可能是你程序的其他部分開啓的,也可能是用戶自己開啓的。這樣你就不能隨意地結束Excel進程,否則會影響到其他人或程序的操作。
我一般會在我的處理完成後(關閉了我自己打開或者創建的Excel文件),判斷一下當前Excel進程是否還開啓着其他的文檔,如果沒有了纔會結束該進程。
number_of_workbooks = excel.Workbooks.Count
if number_of_workbooks > 0:
logging.debug(
'there are still %d workbooks opened in excel process, not quit excel application',
number_of_workbooks
)
else:
logging.debug(
'no workbook opened in excel process, quiting excel application instance ...'
)
excel.Quit()
del excel
關於枚舉常量
Excel API中有各種各樣的枚舉常量,我還沒有找到在Python中直接引用這些常量的方法,目前的辦法是找到所需的常數的值,自己定義這些常數。比如我用到了如下這些枚舉常量:
class ExcelConstants(object):
# XlFileFormat Enumeration
xlOpenXMLWorkbook = 51 # Open XML Workbook.
# XlDVType Enumeration
xlValidateList = 3 # Value must be present in a specified list.
# XlDVAlertStyle Enumeration
xlValidAlertStop = 1 # Stop icon.
# Constants Enumeration
xlCenter = -4108
# XlLineStyle enumeration
xlContinuous = 1
要想知道某一個枚舉常量的數值,可以查閱MSDN中Excel Enumerations相關的資料。
在Python也能夠直接引用相關的常量,即通過win32com.client.constants獲取常量的值。不過這裏還有一點比較tricky的地方,如果直接用Dispatch或者DispatchEx得到Excel對象,是無法從constants中取出常量值的,需要手動運行makepy,或者通過win32com.client.gencache.EnsureDispatch獲得Excel對象:
import win32com
from win32com.client import constants
excel = win32com.client.gencache.EnsureDispatch('Excel.Application')
print constants.xlOpenXMLWorkbook # will be 51
print constants.xlCenter # will be -4108