轉自https://www.cnblogs.com/yjhrem/articles/3160864.html
Servlet 單例多線程
Servlet如何處理多個請求訪問？
Servlet容器默認是採用單實例多線程的方式處理多個請求的：
1.當web服務器啓動的時候（或客戶端發送請求到服務器時），Servlet就被加載並實例化(只存在一個Servlet實例)；
2.容器初始化化Servlet主要就是讀取配置文件（例如tomcat,可以通過servlet.xml的<Connector>設置線程池中線程數目，初始化線程池通過web.xml,初始化每個參數值等等。
3.當請求到達時，Servlet容器通過調度線程(Dispatchaer Thread) 調度它管理下線程池中等待執行的線程（Worker Thread）給請求者；
4.線程執行Servlet的service方法；
5.請求結束，放回線程池，等待被調用；
（注意：避免使用實例變量（成員變量），因爲如果存在成員變量，可能發生多線程同時訪問該資源時，都來操作它，照成數據的不一致，因此產生線程安全問題）
從上面可以看出：
第一：Servlet單實例，減少了產生servlet的開銷；
第二：通過線程池來響應多個請求，提高了請求的響應時間；
第三：Servlet容器並不關心到達的Servlet請求訪問的是否是同一個Servlet還是另一個Servlet，直接分配給它一個新的線程；如果是同一個Servlet的多個請求，那麼Servlet的service方法將在多線程中併發的執行；
第四：每一個請求由ServletRequest對象來接受請求，由ServletResponse對象來響應該請求；
Servlet/JSP技術和ASP、PHP等相比，由於其多線程運行而具有很高的執行效率。由於Servlet/JSP默認是以多線程模式執行的，所以，在編寫代碼時需要非常細緻地考慮多線程的安全性問題。
JSP的中存在的多線程問題：
當客戶端第一次請求某一個JSP文件時，服務端把該JSP編譯成一個CLASS文件，並創建一個該類的實例，然後創建一個線程處理CLIENT端的請求。如果有多個客戶端同時請求該JSP文件，則服務端會創建多個線程。每個客戶端請求對應一個線程。以多線程方式執行可大大降低對系統的資源需求,提高系統的併發量及響應時間.
對JSP中可能用的的變量說明如下:
實例變量: 實例變量是在堆中分配的,並被屬於該實例的所有線程共享，所以不是線程安全的.
JSP系統提供的8個類變量
JSP中用到的OUT,REQUEST,RESPONSE,SESSION,CONFIG,PAGE,PAGECONXT是線程安全的(因爲每個線程對應的request，respone對象都是不一樣的，不存在共享問題), APPLICATION在整個系統內被使用,所以不是線程安全的.
局部變量: 局部變量在堆棧中分配,因爲每個線程都有它自己的堆棧空間,所以是線程安全的.
靜態類: 靜態類不用被實例化,就可直接使用,也不是線程安全的.
外部資源: 在程序中可能會有多個線程或進程同時操作同一個資源(如:多個線程或進程同時對一個文件進行寫操作).此時也要注意同步問題.
使它以單線程方式執行,這時，仍然只有一個實例，所有客戶端的請求以串行方式執行。這樣會降低系統的性能
問題
問題一. 說明其Servlet容器如何採用單實例多線程的方式來處理請求
問題二. 如何在開發中保證servlet是單實例多線程的方式來工作(也就是說如何開發線程安全的servelt)。
一. Servlet容器如何同時來處理多個請求
Java的內存模型JMM（Java Memory Model）
JMM主要是爲了規定了線程和內存之間的一些關係。根據JMM的設計，系統存在一個主內存(Main Memory)，Java中所有實例變量都儲存在主存中，對於所有線程都是共享的。每條線程都有自己的工作內存(Working Memory)，工作內存由緩存和堆棧兩部分組成，緩存中保存的是主存中變量的拷貝，緩存可能並不總和主存同步，也就是緩存中變量的修改可能沒有立刻寫到主存中；堆棧中保存的是線程的局部變量，線程之間無法相互直接訪問堆棧中的變量。根據JMM，我們可以將論文中所討論的Servlet實例的內存模型抽象爲圖所示的模型。
工作者線程Work Thread:執行代碼的一組線程。
調度線程Dispatcher Thread：每個線程都具有分配給它的線程優先級,線程是根據優先級調度執行的。
Servlet採用多線程來處理多個請求同時訪問。servlet依賴於一個線程池來服務請求。線程池實際上是一系列的工作者線程集合。Servlet使用一個調度線程來管理工作者線程。
當容器收到一個Servlet請求，調度線程從線程池中選出一個工作者線程,將請求傳遞給該工作者線程，然後由該線程來執行Servlet的service方法。當這個線程正在執行的時候,容器收到另外一個請求,調度線程同樣從線程池中選出另一個工作者線程來服務新的請求,容器並不關心這個請求是否訪問的是同一個Servlet.當容器同時收到對同一個Servlet的多個請求的時候，那麼這個Servlet的service()方法將在多線程中併發執行。
Servlet容器默認採用單實例多線程的方式來處理請求，這樣減少產生Servlet實例的開銷，提升了對請求的響應時間，對於Tomcat可以在server.xml中通過<Connector>元素設置線程池中線程的數目。
就實現來說：
調度者線程類所擔負的責任如其名字，該類的責任是調度線程，只需要利用自己的屬性完成自己的責任。所以該類是承擔了責任的，並且該類的責任又集中到唯一的單體對象中。而其他對象又依賴於該特定對象所承擔的責任，我們就需要得到該特定對象。那該類就是一個單例模式的實現了。
注意：服務器可以使用多個實例來處理請求，代替單個實例的請求排隊帶來的效益問題。服務器創建一個Servlet類的多個Servlet實例組成的實例池，對於每個請求分配Servlet實例進行響應處理，之後放回到實例池中等待下此請求。這樣就造成併發訪問的問題。
此時,局部變量(字段)也是安全的，但對於全局變量和共享數據是不安全的，需要進行同步處理。而對於這樣多實例的情況SingleThreadModel接口並不能解決併發訪問問題。 SingleThreadModel接口在servlet規範中已經被廢棄了。
二 如何開發線程安全的Servlet
1、實現 SingleThreadModel 接口
該接口指定了系統如何處理對同一個Servlet的調用。如果一個Servlet被這個接口指定,那麼在這個Servlet中的service方法將不會有兩個線程被同時執行，當然也就不存在線程安全的問題。這種方法只要將前面的Concurrent Test類的類頭定義更改爲：
Public class Concurrent Test extends HttpServlet implements SingleThreadModel {
…………
}
2、同步對共享數據的操作
使用synchronized 關鍵字能保證一次只有一個線程可以訪問被保護的區段，在本論文中的Servlet可以通過同步塊操作來保證線程的安全。同步後的代碼如下：
…………
Public class Concurrent Test extends HttpServlet { …………
Username = request.getParameter ("username");
Synchronized (this){
Output = response.getWriter ();
Try {
Thread. Sleep (5000);
} Catch (Interrupted Exception e){}
output.println("用戶名:"+Username+"<BR>");
}
}
}
3、避免使用實例變量
本實例中的線程安全問題是由實例變量造成的，只要在Servlet裏面的任何方法裏面都不使用實例變量，那麼該Servlet就是線程安全的。
修正上面的Servlet代碼，將實例變量改爲局部變量實現同樣的功能，代碼如下：
……
Public class Concurrent Test extends HttpServlet {public void service (HttpServletRequest request, HttpServletResponse
Response) throws ServletException, IOException {
Print Writer output;
String username;
Response.setContentType ("text/html; charset=gb2312");
……
}
}
** 對上面的三種方法進行測試，可以表明用它們都能設計出線程安全的Servlet程序。但是，如果一個Servlet實現了SingleThreadModel接口，Servlet引擎將爲每個新的請求創建一個單獨的Servlet實例，這將引起大量的系統開銷。SingleThreadModel在Servlet2.4中已不再提倡使用；同樣如果在程序中使用同步來保護要使用的共享的數據，也會使系統的性能大大下降。這是因爲被同步的代碼塊在同一時刻只能有一個線程執行它，使得其同時處理客戶請求的吞吐量降低，而且很多客戶處於阻塞狀態。另外爲保證主存內容和線程的工作內存中的數據的一致性，要頻繁地刷新緩存,這也會大大地影響系統的性能。所以在實際的開發中也應避免或最小化 Servlet 中的同步代碼；在Serlet中避免使用實例變量是保證Servlet線程安全的最佳選擇。從Java 內存模型也可以知道，方法中的臨時變量是在棧上分配空間，而且每個線程都有自己私有的棧空間，所以它們不會影響線程的安全。
更加詳細的說明：
1，變量的線程安全：這裏的變量指字段和共享數據(如表單參數值)。
a，將 參數變量 本地化。多線程並不共享局部變量.所以我們要儘可能的在servlet中使用局部變量。
例如：String user = "";
user = request.getParameter("user");
b，使用同步塊Synchronized，防止可能異步調用的代碼塊。這意味着線程需要排隊處理。在使用同板塊的時候要儘可能的縮小同步代碼的範圍，不要直接在sevice方法和響應方法上使用同步，這樣會嚴重影響性能。
2,屬性的線程安全：ServletContext，HttpSession，ServletRequest對象中屬性。
ServletContext：（線程是不安全的）
ServletContext是可以多線程同時讀/寫屬性的，線程是不安全的。要對屬性的讀寫進行同步處理或者進行深度Clone()。所以在Servlet上下文中儘可能少量保存會被修改（寫）的數據，可以採取其他方式在多個Servlet中共享，比方我們可以使用單例模式來處理共享數據。
HttpSession：（線程是不安全的）
HttpSession對象在用戶會話期間存在，只能在處理屬於同一個Session的請求的線程中被訪問，因此Session對象的屬性訪問理論上是線程安全的。
當用戶打開多個同屬於一個進程的瀏覽器窗口，在這些窗口的訪問屬於同一個Session，會出現多次請求，需要多個工作線程來處理請求，可能造成同時多線程讀寫屬性。這時我們需要對屬性的讀寫進行同步處理：使用同步塊Synchronized和使用讀/寫器來解決。
ServletRequest：（線程是安全的）
對於每一個請求，由一個工作線程來執行，都會創建有一個新的ServletRequest對象，所以ServletRequest對象只能在一個線程中被訪問。ServletRequest是線程安全的。注意：ServletRequest對象在service方法的範圍內是有效的，不要試圖在service方法結束後仍然保存請求對象的引用。
3，使用同步的集合類：
使用Vector代替ArrayList，使用Hashtable代替HashMap。
4，不要在Servlet中創建自己的線程來完成某個功能。
Servlet本身就是多線程的，在Servlet中再創建線程，將導致執行情況複雜化，出現多線程安全問題。
5，在多個servlet中對外部對象(比方文件)進行修改操作一定要加鎖，做到互斥的訪問。
6，javax.servlet.SingleThreadModel接口是一個標識接口，如果一個Servlet實現了這個接口，那Servlet容器將保證在一個時刻僅有一個線程可以在給定的servlet實例的service方法中執行。將其他所有請求進行排隊。
PS：
Servlet並非只是單例的. 當container開始啓動,或是客戶端發出請求服務時,Container會按照容器的配置負責加載和實例化一個Servlet（也可以配置爲多個，不過一般不這麼幹）.不過一般來說一個servlet只會有一個實例。
1) Struts2的Action是原型，非單實例的；會對每一個請求,產生一個Action的實例來處理。
2) Struts1的Action,Spring的Ioc容器管理的bean 默認是單實例的.
Struts1 Action是單實例的，spring mvc的controller也是如此。因此開發時要求必須是線程安全的，因爲僅有Action的一個實例來處理所有的請求。單例策略限制了Struts1 Action能作的事，並且要在開發時特別小心。Action資源必須是線程安全的或同步的。
Spring的Ioc容器管理的bean 默認是單實例的。
Struts2 Action對象爲每一個請求產生一個實例，因此沒有線程安全問題。（實際上，servlet容器給每個請求產生許多可丟棄的對象，並且不會導致性能和垃圾回收問題）。
當Spring管理Struts2的Action時，bean默認是單實例的，可以通過配置參數將其設置爲原型。(scope="prototype ）
Servlet的生命週期：
1. Servlet在web服務器啓動時被加載並實例化，容器運行其init方法初始化，請求到達時運行其service方法；
2. service運行請求對應的doXXX(doGet,doPost)方法；
3. 服務器銷燬實例，運行其destory方法；
Servlet的生命週期由Servlet容器管理；
（三個概念的理解：
Servlet容器<Web容器<應用服務器？
Servlet容器的主要任務就是管理Servlet的生命週期；
Web容器也稱之爲web服務器，主要任務就是管理和部署web應用的；
應用服務器的功能非常強大，不僅可以管理和部署web應用，也可以部署EJB應用，實現容器管理的事務等等。。。
Web服務器就是跟基於HTTP的請求打交道，而EJB容器更多是跟數據庫，事務管理等服務接口交互，所以應用服務器的功能是很多的。
常見的web服務器就是Tomcat,但Tomcat同樣也是Servlet服務器；
常見的應用服務器有WebLogic，WebSphere，但都是收費的；
沒有Servlet容器，可以用Web容器直接訪問靜態Html頁面，比如安裝了apache等；如果需要顯示Jsp/Servlet，就需要安裝一個Servlet容器；但是光有servlet容器也是不夠的，它需要被解析爲html顯示，所以仍需要一個web容器；所以，我們常把web容器和Servlet容器視爲一體，因爲他們兩個容器都有對方的功能實現了，都沒有獨立的存在了，比如tomcat！
）
Servlet是如何處理多個請求同時訪問呢？
Servlet容器默認是採用單實例多線程的方式處理多個請求的：
1. 當web服務器啓動的時候（或客戶端發送請求到服務器時），Servlet就被加載並實例化（只存在一個Servlet實例）；
2. 容器初始化Servlet。主要就是讀取配置文件（例如tomcat，可以通過servlet.xml的<Connector>設置線程池中線程數目，初始化線程池；通過web.xml，初始化每個參數值等等）；
3. 當請求到達時，Servlet容器通過調度線程（Dispatchaer Thread）調度它管理下的線程池中等待執行的線程（Worker Thread）給請求者；
4. 線程執行Servlet的service方法；
5. 請求結束，放回線程池，等到被調用；
從上面可以看出：
第一：Servlet單實例，減少了產生servlet的開銷；
第二：通過線程池來響應多個請求，提高了請求的響應時間；
第三：Servlet容器並不關心到達的Servlet請求訪問的是否是同一個Servlet還是另一個Servlet，直接分配給它一個新的線程；如果是同一個Servlet的多個請求，那麼Servlet的service方法將在多線程中併發的執行；
第四：每一個請求由ServletRequest對象來接受請求，由ServletResponse對象來響應該請求；
問題出現了：
同一個Servlet的的多個請求到來時，如果該Servlet中存在成員變量，可能發生多線程同時訪問該資源時，都來操作它，造成數據的不一致，因此產生線程安全問題。
解決：
1. 實現SingleThreadModel接口
如果一個Servlet被這個接口指定,那麼在這個Servlet中的service方法將不會有兩個線程被同時執行，當然也就不存在線程安全的問題；
2. 同步對共享數據的操作
使用synchronized關鍵字能保證一次只有一個線程可以訪問被保護的區段，Servlet可以通過同步塊操作來保證線程的安全。
ServletRequest對象是線程安全的，但是ServletContext和HttpSession不是線程安全的；
要使用同步的集合類：Vector代替ArrayList，HsahTable代替HashMap；
3. 避免使用實例變量（成員變量）
線程安全問題是由實例變量造成的，只要在Servlet裏面的任何方法裏面都不使用實例變量，那麼該Servlet就是線程安全的。（所有建議不要在servlet中定義成員變量，儘量用局部變量代替）
對上面的三種方法進行測試，可以表明用它們都能設計出線程安全的Servlet程序。但是，如果一個Servlet實現了SingleThreadModel接口，Servlet引擎將爲每個新的請求創建一個單獨的Servlet實例，這將引起大量的系統開銷。SingleThreadModel在Servlet2.4中已不再提倡使用；同樣如果在程序中使用同步來保護要使用的共享的數據，也會使系統的性能大大下降。這是因爲被同步的代碼塊在同一時刻只能有一個線程執行它，使得其同時處理客戶請求的吞吐量降低，而且很多客戶處於阻塞狀態。另外爲保證主存內容和線程的工作內存中的數據的一致性，要頻繁地刷新緩存,這也會大大地影響系統的性能。所以在實際的開發中也應避免或最小化Servlet中的同步代碼；在Serlet中避免使用實例變量是保證Servlet線程安全的最佳選擇。從Java內存模型也可以知道，方法中的臨時變量是在棧上分配空間，而且每個線程都有自己私有的棧空間，所以它們不會影響線程的安全。
Servlet的線程安全問題只有在大量的併發訪問時纔會顯現出來，並且很難發現，因此在編寫Servlet程序時要特別注意。線程安全問題主要是由實例變量造成的,因此在Servlet中應避免使用實例變量。如果應用程序設計無法避免使用實例變量，那麼使用同步來保護要使用的實例變量，但爲保證系統的最佳性能，應該同步可用性最小的代碼路徑。