深入理解JVM(3)——7種垃圾收集器

文章轉載來源:深入理解JVM(3)——7種垃圾收集器

如果說收集算法是內存回收的方法論,那麼垃圾收集器就是內存回收的具體實現。Java虛擬機規範中對垃圾收集器應該如何實現並沒有任何規定,因此不同的廠商、版本的虛擬機所提供的垃圾收集器都可能會有很大差別,並且一般都會提供參數供用戶根據自己的應用特點和要求組合出各個年代所使用的收集器。接下來討論的收集器基於JDK1.7 Update 14 之後的HotSpot虛擬機(在此版本中正式提供了商用的G1收集器,之前G1仍處於實驗狀態),該虛擬機包含的所有收集器如下圖所示:

上圖展示了7種作用於不同分代的收集器,如果兩個收集器之間存在連線,就說明它們可以搭配使用。虛擬機所處的區域,則表示它是屬於新生代收集器還是老年代收集器。Hotspot實現瞭如此多的收集器,正是因爲目前並無完美的收集器出現,只是選擇對具體應用最適合的收集器。

相關概念

並行和併發

  • 並行(Parallel):指多條垃圾收集線程並行工作,但此時用戶線程仍然處於等待狀態。
  • 併發(Concurrent):指用戶線程與垃圾收集線程同時執行(但不一定是並行的,可能會交替執行),用戶程序在繼續運行。而垃圾收集程序運行在另一個CPU上。

吞吐量(Throughput)

吞吐量就是CPU用於運行用戶代碼的時間CPU總消耗時間的比值,即

吞吐量 = 運行用戶代碼時間 /(運行用戶代碼時間 + 垃圾收集時間)。

假設虛擬機總共運行了100分鐘,其中垃圾收集花掉1分鐘,那吞吐量就是99%。

Minor GC 和 Full GC

  • 新生代GC(Minor GC):指發生在新生代的垃圾收集動作,因爲Java對象大多都具備朝生夕滅的特性,所以Minor GC非常頻繁,一般回收速度也比較快。具體原理見上一篇文章。
  • 老年代GC(Major GC / Full GC):指發生在老年代的GC,出現了Major GC,經常會伴隨至少一次的Minor GC(但非絕對的,在Parallel Scavenge收集器的收集策略裏就有直接進行Major GC的策略選擇過程)。Major GC的速度一般會比Minor GC慢10倍以上。

新生代收集器

Serial收集器

Serial(串行)收集器是最基本、發展歷史最悠久的收集器,它是採用複製算法新生代收集器,曾經(JDK 1.3.1之前)是虛擬機新生代收集的唯一選擇。它是一個單線程收集器,只會使用一個CPU或一條收集線程去完成垃圾收集工作,更重要的是它在進行垃圾收集時,必須暫停其他所有的工作線程,直至Serial收集器收集結束爲止(“Stop The World”)。這項工作是由虛擬機在後臺自動發起和自動完成的,在用戶不可見的情況下把用戶正常工作的線程全部停掉,這對很多應用來說是難以接收的。

下圖展示了Serial 收集器(老年代採用Serial Old收集器)的運行過程:

爲了消除或減少工作線程因內存回收而導致的停頓,HotSpot虛擬機開發團隊在JDK 1.3之後的Java發展歷程中研發出了各種其他的優秀收集器,這些將在稍後介紹。但是這些收集器的誕生並不意味着Serial收集器已經“老而無用”,實際上到現在爲止,它依然是HotSpot虛擬機運行在Client模式下的默認的新生代收集器。它也有着優於其他收集器的地方:簡單而高效(與其他收集器的單線程相比),對於限定單個CPU的環境來說,Serial收集器由於沒有線程交互的開銷,專心做垃圾收集自然可以獲得更高的單線程收集效率。

在用戶的桌面應用場景中,分配給虛擬機管理的內存一般不會很大,收集幾十兆甚至一兩百兆的新生代(僅僅是新生代使用的內存,桌面應用基本不會再大了),停頓時間完全可以控制在幾十毫秒最多一百毫秒以內,只要不頻繁發生,這點停頓時間可以接收。所以,Serial收集器對於運行在Client模式下的虛擬機來說是一個很好的選擇。

ParNew 收集器

ParNew收集器就是Serial收集器的多線程版本,它也是一個新生代收集器。除了使用多線程進行垃圾收集外,其餘行爲包括Serial收集器可用的所有控制參數、收集算法(複製算法)、Stop The World、對象分配規則、回收策略等與Serial收集器完全相同,兩者共用了相當多的代碼。

ParNew收集器的工作過程如下圖(老年代採用Serial Old收集器):

ParNew收集器除了使用多線程收集外,其他與Serial收集器相比並無太多創新之處,但它卻是許多運行在Server模式下的虛擬機中首選的新生代收集器,其中有一個與性能無關的重要原因是,除了Serial收集器外,目前只有它能和CMS收集器(Concurrent Mark Sweep)配合工作,CMS收集器是JDK 1.5推出的一個具有劃時代意義的收集器,具體內容將在稍後進行介紹。

ParNew 收集器在單CPU的環境中絕對不會有比Serial收集器有更好的效果,甚至由於存在線程交互的開銷,該收集器在通過超線程技術實現的兩個CPU的環境中都不能百分之百地保證可以超越。在多CPU環境下,隨着CPU的數量增加,它對於GC時系統資源的有效利用是很有好處的。它默認開啓的收集線程數與CPU的數量相同,在CPU非常多的情況下可使用-XX:ParallerGCThreads參數設置。

Parallel Scavenge 收集器

Parallel Scavenge收集器也是一個並行多線程新生代收集器,它也使用複製算法。Parallel Scavenge收集器的特點是它的關注點與其他收集器不同,CMS等收集器的關注點是儘可能縮短垃圾收集時用戶線程的停頓時間,而Parallel Scavenge收集器的目標是達到一個可控制的吞吐量(Throughput)

停頓時間越短就越適合需要與用戶交互的程序,良好的響應速度能提升用戶體驗。而高吞吐量則可以高效率地利用CPU時間,儘快完成程序的運算任務,主要適合在後臺運算而不需要太多交互的任務

Parallel Scavenge收集器除了會顯而易見地提供可以精確控制吞吐量的參數,還提供了一個參數-XX:+UseAdaptiveSizePolicy,這是一個開關參數,打開參數後,就不需要手工指定新生代的大小(-Xmn)、Eden和Survivor區的比例(-XX:SurvivorRatio)、晉升老年代對象年齡(-XX:PretenureSizeThreshold)等細節參數了,虛擬機會根據當前系統的運行情況收集性能監控信息,動態調整這些參數以提供最合適的停頓時間或者最大的吞吐量,這種方式稱爲GC自適應的調節策略(GC Ergonomics)。自適應調節策略也是Parallel Scavenge收集器與ParNew收集器的一個重要區別。

另外值得注意的一點是,Parallel Scavenge收集器無法與CMS收集器配合使用,所以在JDK 1.6推出Parallel Old之前,如果新生代選擇Parallel Scavenge收集器,老年代只有Serial Old收集器能與之配合使用。

老年代收集器

Serial Old收集器

Serial Old 是 Serial收集器的老年代版本,它同樣是一個單線程收集器,使用“標記-整理”(Mark-Compact)算法。

此收集器的主要意義也是在於給Client模式下的虛擬機使用。如果在Server模式下,它還有兩大用途:

  • 在JDK1.5 以及之前版本(Parallel Old誕生以前)中與Parallel Scavenge收集器搭配使用。
  • 作爲CMS收集器的後備預案,在併發收集發生Concurrent Mode Failure時使用。

它的工作流程與Serial收集器相同,這裏再次給出Serial/Serial Old配合使用的工作流程圖:

Parallel Old收集器

Parallel Old收集器是Parallel Scavenge收集器的老年代版本,使用多線程“標記-整理”算法。前面已經提到過,這個收集器是在JDK 1.6中才開始提供的,在此之前,如果新生代選擇了Parallel Scavenge收集器,老年代除了Serial Old以外別無選擇,所以在Parallel Old誕生以後,“吞吐量優先”收集器終於有了比較名副其實的應用組合,在注重吞吐量以及CPU資源敏感的場合,都可以優先考慮Parallel Scavenge加Parallel Old收集器。Parallel Old收集器的工作流程與Parallel Scavenge相同,這裏給出Parallel Scavenge/Parallel Old收集器配合使用的流程圖:

CMS收集器

CMS(Concurrent Mark Sweep)收集器是一種以獲取最短回收停頓時間爲目標的收集器,它非常符合那些集中在互聯網站或者B/S系統的服務端上的Java應用,這些應用都非常重視服務的響應速度。從名字上(“Mark Sweep”)就可以看出它是基於“標記-清除”算法實現的。

CMS收集器工作的整個流程分爲以下4個步驟:

  • 初始標記(CMS initial mark):僅僅只是標記一下GC Roots能直接關聯到的對象,速度很快,需要“Stop The World”。
  • 併發標記(CMS concurrent mark):進行GC Roots Tracing的過程,在整個過程中耗時最長。
  • 重新標記(CMS remark):爲了修正併發標記期間因用戶程序繼續運作而導致標記產生變動的那一部分對象的標記記錄,這個階段的停頓時間一般會比初始標記階段稍長一些,但遠比並發標記的時間短。此階段也需要“Stop The World”。
  • 併發清除(CMS concurrent sweep)

由於整個過程中耗時最長的併發標記和併發清除過程收集器線程都可以與用戶線程一起工作,所以,從總體上來說,CMS收集器的內存回收過程是與用戶線程一起併發執行的。通過下圖可以比較清楚地看到CMS收集器的運作步驟中併發和需要停頓的時間:

優點

CMS是一款優秀的收集器,它的主要優點在名字上已經體現出來了:併發收集低停頓,因此CMS收集器也被稱爲併發低停頓收集器(Concurrent Low Pause Collector)

缺點

  • 對CPU資源非常敏感 其實,面向併發設計的程序都對CPU資源比較敏感。在併發階段,它雖然不會導致用戶線程停頓,但會因爲佔用了一部分線程(或者說CPU資源)而導致應用程序變慢,總吞吐量會降低。CMS默認啓動的回收線程數是(CPU數量+3)/4,也就是當CPU在4個以上時,併發回收時垃圾收集線程不少於25%的CPU資源,並且隨着CPU數量的增加而下降。但是當CPU不足4個時(比如2個),CMS對用戶程序的影響就可能變得很大,如果本來CPU負載就比較大,還要分出一半的運算能力去執行收集器線程,就可能導致用戶程序的執行速度忽然降低了50%,其實也讓人無法接受。
  • 無法處理浮動垃圾(Floating Garbage) 可能出現“Concurrent Mode Failure”失敗而導致另一次Full GC的產生。由於CMS併發清理階段用戶線程還在運行着,伴隨程序運行自然就還會有新的垃圾不斷產生。這一部分垃圾出現在標記過程之後,CMS無法再當次收集中處理掉它們,只好留待下一次GC時再清理掉。這一部分垃圾就被稱爲“浮動垃圾”。也是由於在垃圾收集階段用戶線程還需要運行,那也就還需要預留有足夠的內存空間給用戶線程使用,因此CMS收集器不能像其他收集器那樣等到老年代幾乎完全被填滿了再進行收集,需要預留一部分空間提供併發收集時的程序運作使用。
  • 標記-清除算法導致的空間碎片 CMS是一款基於“標記-清除”算法實現的收集器,這意味着收集結束時會有大量空間碎片產生。空間碎片過多時,將會給大對象分配帶來很大麻煩,往往出現老年代空間剩餘,但無法找到足夠大連續空間來分配當前對象。

G1收集器

G1(Garbage-First)收集器是當今收集器技術發展最前沿的成果之一,它是一款面向服務端應用的垃圾收集器,HotSpot開發團隊賦予它的使命是(在比較長期的)未來可以替換掉JDK 1.5中發佈的CMS收集器。與其他GC收集器相比,G1具備如下特點:

  • 並行與併發 G1 能充分利用多CPU、多核環境下的硬件優勢,使用多個CPU來縮短“Stop The World”停頓時間,部分其他收集器原本需要停頓Java線程執行的GC動作,G1收集器仍然可以通過併發的方式讓Java程序繼續執行。
  • 分代收集 與其他收集器一樣,分代概念在G1中依然得以保留。雖然G1可以不需要其他收集器配合就能獨立管理整個GC堆,但它能夠採用不同方式去處理新創建的對象和已存活一段時間、熬過多次GC的舊對象來獲取更好的收集效果。
  • 空間整合 G1從整體來看是基於“標記-整理”算法實現的收集器,從局部(兩個Region之間)上來看是基於“複製”算法實現的。這意味着G1運行期間不會產生內存空間碎片,收集後能提供規整的可用內存。此特性有利於程序長時間運行,分配大對象時不會因爲無法找到連續內存空間而提前觸發下一次GC。
  • 可預測的停頓 這是G1相對CMS的一大優勢,降低停頓時間是G1和CMS共同的關注點,但G1除了降低停頓外,還能建立可預測的停頓時間模型,能讓使用者明確指定在一個長度爲M毫秒的時間片段內,消耗在GC上的時間不得超過N毫秒,這幾乎已經是實時Java(RTSJ)的垃圾收集器的特徵了。

橫跨整個堆內存

在G1之前的其他收集器進行收集的範圍都是整個新生代或者老生代,而G1不再是這樣。G1在使用時,Java堆的內存佈局與其他收集器有很大區別,它將整個Java堆劃分爲多個大小相等的獨立區域(Region),雖然還保留新生代和老年代的概念,但新生代和老年代不再是物理隔離的了,而都是一部分Region(不需要連續)的集合

建立可預測的時間模型

G1收集器之所以能建立可預測的停頓時間模型,是因爲它可以有計劃地避免在整個Java堆中進行全區域的垃圾收集。G1跟蹤各個Region裏面的垃圾堆積的價值大小(回收所獲得的空間大小以及回收所需時間的經驗值),在後臺維護一個優先列表,每次根據允許的收集時間,優先回收價值最大的Region(這也就是Garbage-First名稱的來由)。這種使用Region劃分內存空間以及有優先級的區域回收方式,保證了G1收集器在有限的時間內可以獲取儘可能高的收集效率。

避免全堆掃描——Remembered Set

G1把Java堆分爲多個Region,就是“化整爲零”。但是Region不可能是孤立的,一個對象分配在某個Region中,可以與整個Java堆任意的對象發生引用關係。在做可達性分析確定對象是否存活的時候,需要掃描整個Java堆才能保證準確性,這顯然是對GC效率的極大傷害。

爲了避免全堆掃描的發生,虛擬機爲G1中每個Region維護了一個與之對應的Remembered Set。虛擬機發現程序在對Reference類型的數據進行寫操作時,會產生一個Write Barrier暫時中斷寫操作,檢查Reference引用的對象是否處於不同的Region之中(在分代的例子中就是檢查是否老年代中的對象引用了新生代中的對象),如果是,便通過CardTable把相關引用信息記錄到被引用對象所屬的Region的Remembered Set之中。當進行內存回收時,在GC根節點的枚舉範圍中加入Remembered Set即可保證不對全堆掃描也不會有遺漏。


如果不計算維護Remembered Set的操作,G1收集器的運作大致可劃分爲以下幾個步驟:

  • 初始標記(Initial Marking) 僅僅只是標記一下GC Roots 能直接關聯到的對象,並且修改TAMS(Nest Top Mark Start)的值,讓下一階段用戶程序併發運行時,能在正確可以的Region中創建對象,此階段需要停頓線程,但耗時很短。
  • 併發標記(Concurrent Marking) 從GC Root 開始對堆中對象進行可達性分析,找到存活對象,此階段耗時較長,但可與用戶程序併發執行
  • 最終標記(Final Marking) 爲了修正在併發標記期間因用戶程序繼續運作而導致標記產生變動的那一部分標記記錄,虛擬機將這段時間對象變化記錄在線程的Remembered Set Logs裏面,最終標記階段需要把Remembered Set Logs的數據合併到Remembered Set中,這階段需要停頓線程,但是可並行執行
  • 篩選回收(Live Data Counting and Evacuation) 首先對各個Region中的回收價值和成本進行排序,根據用戶所期望的GC 停頓是時間來制定回收計劃。此階段其實也可以做到與用戶程序一起併發執行,但是因爲只回收一部分Region,時間是用戶可控制的,而且停頓用戶線程將大幅度提高收集效率。

通過下圖可以比較清楚地看到G1收集器的運作步驟中併發和需要停頓的階段(Safepoint處):

總結

收集器 串行、並行or併發 新生代/老年代 算法 目標 適用場景
Serial 串行 新生代 複製算法 響應速度優先 單CPU環境下的Client模式
Serial Old 串行 老年代 標記-整理 響應速度優先 單CPU環境下的Client模式、CMS的後備預案
ParNew 並行 新生代 複製算法 響應速度優先 多CPU環境時在Server模式下與CMS配合
Parallel Scavenge 並行 新生代 複製算法 吞吐量優先 在後臺運算而不需要太多交互的任務
Parallel Old 並行 老年代 標記-整理 吞吐量優先 在後臺運算而不需要太多交互的任務
CMS 併發 老年代 標記-清除 響應速度優先 集中在互聯網站或B/S系統服務端上的Java應用
G1 併發 both 標記-整理+複製算法 響應速度優先 面向服務端應用,將來替換CMS

本文通過詳細介紹HotSpot虛擬機的7種垃圾收集器回答了上一篇文章開頭提出的三個問題中的第三個——“如何回收”,在下一篇文章中,我們將回答最後一個未被解答的問題——“什麼時候回收”。

參考資料

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章