一、NIO Reactor模型
1、Reactor模式思想：分而治之+事件驅動
1）分而治之
一個連接裏完整的網絡處理過程一般分爲accept、read、decode、process、encode、send這幾步。
Reactor模式將每個步驟映射爲一個Task，服務端線程執行的最小邏輯單元不再是一次完整的網絡請求，而是Task，且採用非阻塞方式執行。
2）事件驅動
每個Task對應特定網絡事件。當Task準備就緒時，Reactor收到對應的網絡事件通知，並將Task分發給綁定了對應網絡事件的Handler執行。
3）幾個角色
Reactor：負責響應事件，將事件分發給綁定了該事件的Handler處理；
Handler：事件處理器，綁定了某類事件，負責執行對應事件的Task對事件進行處理；
Acceptor：Handler的一種，綁定了connect事件。當客戶端發起connect請求時，Reactor會將accept事件分發給Acceptor處理。
2、單線程Reactor
單線程reactor
1）優點：
不需要做併發控制，代碼實現簡單清晰。
2）缺點：
a)不能利用多核CPU；
b)一個線程需要執行處理所有的accept、read、decode、process、encode、send事件，處理成百上千的鏈路時性能上無法支撐；
c)一旦reactor線程意外跑飛或者進入死循環，會導致整個系統通信模塊不可用。
3、多線程Reactor
多線程reactor
特點：
a)有專門一個reactor線程用於監聽服務端ServerSocketChannel，接收客戶端的TCP連接請求；
b)網絡IO的讀/寫操作等由一個worker reactor線程池負責，由線程池中的NIO線程負責監聽SocketChannel事件，進行消息的讀取、解碼、編碼和發送。
c)一個NIO線程可以同時處理N條鏈路，但是一個鏈路只註冊在一個NIO線程上處理，防止發生併發操作問題。
4、主從多線程
主從多線程reactor
在絕大多數場景下，Reactor多線程模型都可以滿足性能需求；但是在極個別特殊場景中，一個NIO線程負責監聽和處理所有的客戶端連接可能會存在性能問題。
特點：
a)服務端用於接收客戶端連接的不再是個1個單獨的reactor線程，而是一個boss reactor線程池；
b)服務端啓用多個ServerSocketChannel監聽不同端口時，每個ServerSocketChannel的監聽工作可以由線程池中的一個NIO線程完成。
二、Netty線程模型
netty線程模型
netty線程模型採用“服務端監聽線程”和“IO線程”分離的方式，與多線程Reactor模型類似。
抽象出NioEventLoop來表示一個不斷循環執行處理任務的線程，每個NioEventLoop有一個selector，用於監聽綁定在其上的socket鏈路。
1、串行化設計避免線程競爭
netty採用串行化設計理念，從消息的讀取->解碼->處理->編碼->發送，始終由IO線程NioEventLoop負責。整個流程不會進行線程上下文切換，數據無併發修改風險。
一個NioEventLoop聚合一個多路複用器selector，因此可以處理多個客戶端連接。
netty只負責提供和管理“IO線程”，其他的業務線程模型由用戶自己集成。
時間可控的簡單業務建議直接在“IO線程”上處理，複雜和時間不可控的業務建議投遞到後端業務線程池中處理。
2、定時任務與時間輪
NioEventLoop中的Thread線程按照時間輪中的步驟不斷循環執行：
a)在時間片Tirck內執行selector.select()輪詢監聽IO事件；
b)處理監聽到的就緒IO事件；
c)執行任務隊列taskQueue/delayTaskQueue中的非IO任務。
三、NioEventLoop與NioChannel類關係
NioEventLoop與NioChannel類關係
一個NioEventLoopGroup下包含多個NioEventLoop
每個NioEventLoop中包含有一個Selector，一個taskQueue，一個delayedTaskQueue
每個NioEventLoop的Selector上可以註冊監聽多個AbstractNioChannel.ch
每個AbstractNioChannel只會綁定在唯一的NioEventLoop上
每個AbstractNioChannel都綁定有一個自己的DefaultChannelPipeline
四、NioEventLoop線程執行過程
1、輪詢監聽的IO事件
1）netty的輪詢註冊機制
netty將AbstractNioChannel內部的jdk類SelectableChannel對象註冊到NioEventLoopGroup中的jdk類Selector對象上去，並且將AbstractNioChannel作爲SelectableChannel對象的一個attachment附屬上。
這樣在Selector輪詢到某個SelectableChannel有IO事件發生時，就可以直接取出IO事件對應的AbstractNioChannel進行後續操作。
2）循環執行阻塞selector.select(timeoutMIllis)操作直到以下條件產生
a)輪詢到了IO事件（selectedKey != 0）
b)oldWakenUp參數爲true
c)任務隊列裏面有待處理任務（hasTasks()）
d)第一個定時任務即將要被執行（hasScheduledTasks()）
e)用戶主動喚醒（wakenUp.get()==true）
3）解決JDK的NIO epoll bug
該bug會導致Selector一直空輪詢，最終導致cpu 100%。
在每次selector.select(timeoutMillis)後，如果沒有監聽到就緒IO事件，會記錄此次select的耗時。如果耗時不足timeoutMillis，說明select操作沒有阻塞那麼長時間，可能觸發了空輪詢，進行一次計數。
計數累積超過閾值（默認512）後，開始進行Selector重建：
a)拿到有效的selectionKey集合
b)取消該selectionKey在舊的selector上的事件註冊
c)將該selectionKey對應的Channel註冊到新的selector上，生成新的selectionKey
d)重新綁定Channel和新的selectionKey的關係
4）netty優化了sun.nio.ch.SelectorImpl類中的selectedKeys和publicSelectedKeys這兩個field的實現
netty通過反射將這兩個filed替換掉，替換後的field採用數組實現。
這樣每次在輪詢到nio事件的時候，netty只需要O(1)的時間複雜度就能將SelectionKey塞到set中去，而jdk原有field底層使用的hashSet需要O(lgn)的時間複雜度。
2、處理IO事件
1）對於boss NioEventLoop來說，輪詢到的是基本上是連接事件（OP_ACCEPT）：
a)socketChannel = ch.accept()；
b)將socketChannel綁定到worker NioEventLoop上；
c)socketChannel在worker NioEventLoop上創建register0任務；
d)pipeline.fireChannelReadComplete();
2）對於worker NioEventLoop來說，輪詢到的基本上是IO讀寫事件（以OP_READ爲例）：
a)ByteBuffer.allocateDirect(capacity)；
b)socketChannel.read(dst);
c)pipeline.fireChannelRead();
d)pipeline.fireChannelReadComplete();
3、處理任務隊列
1）處理用戶產生的普通任務
NioEventLoop中的Queue<Runnable> taskQueue被用來承載用戶產生的普通Task。
taskQueue被實現爲netty的mpscQueue，即多生產者單消費者隊列。netty使用該隊列將外部用戶線程產生的Task聚集，並在reactor線程內部用單線程的方式串行執行隊列中的Task。
當用戶在非IO線程調用Channel的各種方法執行Channel相關的操作時，比如channel.write()、channel.flush()等，netty會將相關操作封裝成一個Task並放入taskQueue中，保證相關操作在IO線程中串行執行。
2）處理用戶產生的定時任務
NioEventLoop中的Queue<ScheduledFutureTask<?>> delayedTaskQueue = new PriorityQueue被用來承載用戶產生的定時Task。
當用戶在非IO線程需要產生定時操作時，netty將用戶的定時操作封裝成ScheduledFutureTask，即一個netty內部的定時Task，並將定時Task放入delayedTaskQueue中等待對應Channel的IO線程串行執行。
爲了解決多線程併發寫入delayedTaskQueue的問題，netty將添加ScheduledFutureTask到delayedTaskQueue中的操作封裝成普通Task，放入taskQueue中，通過NioEventLoop的IO線程對delayedTaskQueue進行單線程寫操作。
3）處理任務隊列的邏輯
a)將已到期的定時Task從delayedTaskQueue中轉移到taskQueue中
b)計算本次循環執行的截止時間
c)循環執行taskQueue中的任務，每隔64個任務檢查一下是否已過截止時間，直到taskQueue中任務全部執行完或者超過執行截止時間。
五、Netty中Reactor線程和worker線程所處理的事件
1、Server端NioEventLoop處理的事件
Server端NioEventLoop處理的事件
2、Client端NioEventLoop處理的事件
Client端NioEventLoop處理的事件
作者：益文的圈
鏈接：https://www.jianshu.com/p/38b56531565d
來源：簡書
著作權歸作者所有。商業轉載請聯繫作者獲得授權，非商業轉載請註明出處。