IO多路複用機制詳解——高性能IO模型淺析

服務器端編程經常需要構造高性能的IO模型，常見的IO模型有四種：

（1）同步阻塞IO（Blocking IO）：即傳統的IO模型。
（2）同步非阻塞（Non-blocking IO）：默認創建的socket都是阻塞的，非阻塞IO要求socket被設置爲NONBLOCK。注意這裏所說的NIO並非Java的NIO（New IO）庫。
（3）IO多路複用（IO Multiplexing）：即經典的Reactor設計模式，有時也稱爲異步阻塞IO，Java中的Selector和Linux中的epoll都是這種模型。
（4）異步IO（Asynchronous IO）：即經典的Proactor設計模式，也稱爲異步非阻塞IO。

       同步和異步的概念描述的是用戶線程與內核的交互方式：同步是指用戶線程發起IO請求後需要等待或者輪詢內核IO操作完成後才能繼續執行；而異步是指用戶線程發起IO請求後仍繼續執行，當內核IO操作完成後會通知用戶線程，或者調用用戶線程註冊的回調函數。
       阻塞和非阻塞的概念描述的是用戶線程調用內核IO操作的方式：阻塞是指IO操作需要徹底完成後才返回到用戶空間；而非阻塞是指IO操作被調用後立即返回給用戶一個狀態值，無需等到IO操作徹底完成。

       另外，Richard Stevens 在《Unix 網絡編程》卷1中提到的基於信號驅動的IO（Signal Driven IO）模型，由於該模型並不常用，本文不作涉及。接下來，我們詳細分析四種常見的IO模型的實現原理。爲了方便描述，我們統一使用IO的讀操作作爲示例。

一、同步阻塞IO

同步阻塞IO模型是最簡單的IO模型，用戶線程在內核進行IO操作時被阻塞。

圖1 同步阻塞IO

       如圖1所示，用戶線程通過系統調用read發起IO讀操作，由用戶空間轉到內核空間。內核等到數據包到達後，然後將接收的數據拷貝到用戶空間，完成read操作。

用戶線程使用同步阻塞IO模型的僞代碼描述爲：

{
	read(socket, buffer);
	process(buffer);
}

       即用戶需要等待read將socket中的數據讀取到buffer後，才繼續處理接收的數據。整個IO請求的過程中，用戶線程是被阻塞的，這導致用戶在發起IO請求時，不能做任何事情，對CPU的資源利用率不夠。

二、同步非阻塞IO

       同步非阻塞IO是在同步阻塞IO的基礎上，將socket設置爲NONBLOCK。這樣做用戶線程可以在發起IO請求後可以立即返回。

圖2 同步非阻塞IO

       如圖2所示，由於socket是非阻塞的方式，因此用戶線程發起IO請求時立即返回。但並未讀取到任何數據，用戶線程需要不斷地發起IO請求，直到數據到達後，才真正讀取到數據，繼續執行。

用戶線程使用同步非阻塞IO模型的僞代碼描述爲：

{
	while(read(socket, buffer) != SUCCESS);
	process(buffer);
}

       即用戶需要不斷地調用read，嘗試讀取socket中的數據，直到讀取成功後，才繼續處理接收的數據。整個IO請求的過程中，雖然用戶線程每次發起IO請求後可以立即返回，但是爲了等到數據，仍需要不斷地輪詢、重複請求，消耗了大量的CPU的資源。一般很少直接使用這種模型，而是在其他IO模型中使用非阻塞IO這一特性。

三、IO多路複用

       IO多路複用模型是建立在內核提供的多路分離函數select基礎之上的，使用select函數可以避免同步非阻塞IO模型中輪詢等待的問題。

圖3 多路分離函數select

       如圖3所示，用戶首先將需要進行IO操作的socket添加到select中，然後阻塞等待select系統調用返回。當數據到達時，socket被激活，select函數返回。用戶線程正式發起read請求，讀取數據並繼續執行。

       從流程上來看，使用select函數進行IO請求和同步阻塞模型沒有太大的區別，甚至還多了添加監視socket，以及調用select函數的額外操作，效率更差。但是，使用select以後最大的優勢是用戶可以在一個線程內同時處理多個socket的IO請求。用戶可以註冊多個socket，然後不斷地調用select讀取被激活的socket，即可達到在同一個線程內同時處理多個IO請求的目的。而在同步阻塞模型中，必須通過多線程的方式才能達到這個目的。

用戶線程使用select函數的僞代碼描述爲：

{
	select(socket);
	while(1) {
		sockets = select();
		for(socket in sockets) {
			if(can_read(socket)) {
				read(socket, buffer);
				process(buffer);
			}
		}
	}
}

       其中while循環前將socket添加到select監視中，然後在while內一直調用select獲取被激活的socket，一旦socket可讀，便調用read函數將socket中的數據讀取出來。

       然而，使用select函數的優點並不僅限於此。雖然上述方式允許單線程內處理多個IO請求，但是每個IO請求的過程還是阻塞的（在select函數上阻塞），平均時間甚至比同步阻塞IO模型還要長。如果用戶線程只註冊自己感興趣的socket或者IO請求，然後去做自己的事情，等到數據到來時再進行處理，則可以提高CPU的利用率。

IO多路複用模型使用了Reactor設計模式實現了這一機制。

圖4 設計模式

       如圖4所示，EventHandler抽象類表示IO事件處理器，它擁有IO文件句柄Handle（通過get_handle獲取），以及對Handle的操作handle_event（讀/寫等）。繼承於EventHandler的子類可以對事件處理器的行爲進行定製。Reactor類用於管理EventHandler（註冊、刪除等），並使用handle_events實現事件循環，不斷調用同步事件多路分離器（一般是內核）的多路分離函數select，只要某個文件句柄被激活（可讀/寫等），select就返回（阻塞），handle_events就會調用與文件句柄關聯的事件處理器的handle_event進行相關操作。

圖5 IO多路複用

       如圖5所示，通過Reactor的方式，可以將用戶線程輪詢IO操作狀態的工作統一交給handle_events事件循環進行處理。用戶線程註冊事件處理器之後可以繼續執行做其他的工作（異步），而Reactor線程負責調用內核的select函數檢查socket狀態。當有socket被激活時，則通知相應的用戶線程（或執行用戶線程的回調函數），執行handle_event進行數據讀取、處理的工作。由於select函數是阻塞的，因此多路IO複用模型也被稱爲異步阻塞IO模型。注意，這裏的所說的阻塞是指select函數執行時線程被阻塞，而不是指socket。一般在使用IO多路複用模型時，socket都是設置爲NONBLOCK的，不過這並不會產生影響，因爲用戶發起IO請求時，數據已經到達了，用戶線程一定不會被阻塞。

用戶線程使用IO多路複用模型的僞代碼描述爲：

void UserEventHandler::handle_event() {
	if(can_read(socket)) {
		read(socket, buffer);
		process(buffer);
	}
}

{
	Reactor.register(new UserEventHandler(socket));
}

       用戶需要重寫EventHandler的handle_event函數進行讀取數據、處理數據的工作，用戶線程只需要將自己的EventHandler註冊到Reactor即可。Reactor中handle_events事件循環的僞代碼大致如下。

Reactor::handle_events() {
	while(1) {
		sockets = select();
		for(socket in sockets) {
			get_event_handler(socket).handle_event();
		}
	}
}

       事件循環不斷地調用select獲取被激活的socket，然後根據獲取socket對應的EventHandler，執行器handle_event函數即可。
IO多路複用是最常使用的IO模型，但是其異步程度還不夠“徹底”，因爲它使用了會阻塞線程的select系統調用。因此IO多路複用只能稱爲異步阻塞IO，而非真正的異步IO。

四、異步IO

       “真正”的異步IO需要操作系統更強的支持。在IO多路複用模型中，事件循環將文件句柄的狀態事件通知給用戶線程，由用戶線程自行讀取數據、處理數據。而在異步IO模型中，當用戶線程收到通知時，數據已經被內核讀取完畢，並放在了用戶線程指定的緩衝區內，內核在IO完成後通知用戶線程直接使用即可。

異步IO模型使用了Proactor設計模式實現了這一機制。

圖6 Proactor設計模式

       如圖6，Proactor模式和Reactor模式在結構上比較相似，不過在用戶（Client）使用方式上差別較大。Reactor模式中，用戶線程通過向Reactor對象註冊感興趣的事件監聽，然後事件觸發時調用事件處理函數。而Proactor模式中，用戶線程將AsynchronousOperation（讀/寫等）、Proactor以及操作完成時的CompletionHandler註冊到AsynchronousOperationProcessor。AsynchronousOperationProcessor使用Facade模式提供了一組異步操作API（讀/寫等）供用戶使用，當用戶線程調用異步API後，便繼續執行自己的任務。AsynchronousOperationProcessor 會開啓獨立的內核線程執行異步操作，實現真正的異步。當異步IO操作完成時，AsynchronousOperationProcessor將用戶線程與AsynchronousOperation一起註冊的Proactor和CompletionHandler取出，然後將CompletionHandler與IO操作的結果數據一起轉發給Proactor，Proactor負責回調每一個異步操作的事件完成處理函數handle_event。雖然Proactor模式中每個異步操作都可以綁定一個Proactor對象，但是一般在操作系統中，Proactor被實現爲Singleton模式，以便於集中化分發操作完成事件。

圖7 異步IO

       如圖7所示，異步IO模型中，用戶線程直接使用內核提供的異步IO API發起read請求，且發起後立即返回，繼續執行用戶線程代碼。不過此時用戶線程已經將調用的AsynchronousOperation和CompletionHandler註冊到內核，然後操作系統開啓獨立的內核線程去處理IO操作。當read請求的數據到達時，由內核負責讀取socket中的數據，並寫入用戶指定的緩衝區中。最後內核將read的數據和用戶線程註冊的CompletionHandler分發給內部Proactor，Proactor將IO完成的信息通知給用戶線程（一般通過調用用戶線程註冊的完成事件處理函數），完成異步IO。

用戶線程使用異步IO模型的僞代碼描述爲：

void UserCompletionHandler::handle_event(buffer)
{
	process(buffer);
}

{
	aio_read(socket, new UserCompletionHandler);
}

       用戶需要重寫CompletionHandler的handle_event函數進行處理數據的工作，參數buffer表示Proactor已經準備好的數據，用戶線程直接調用內核提供的異步IO API，並將重寫的CompletionHandler註冊即可。

       相比於IO多路複用模型，異步IO並不十分常用，不少高性能併發服務程序使用IO多路複用模型+多線程任務處理的架構基本可以滿足需求。況且目前操作系統對異步IO的支持並非特別完善，更多的是採用IO多路複用模型模擬異步IO的方式（IO事件觸發時不直接通知用戶線程，而是將數據讀寫完畢後放到用戶指定的緩衝區中）。Java7之後已經支持了異步IO，感興趣的讀者可以嘗試使用。

轉載:
原文地址：http://xuding.blog.51cto.com/4890434/1739649
兩種高效的事件處理模式和併發模式：http://blog.csdn.net/u011438608/article/details/44623661