成爲Java GC專家系列(1) ——Java垃圾回收機制

原文地址:http://www.cubrid.org/blog/dev-platform/understanding-java-garbage-collection/
翻譯原文:http://www.importnew.com/1993.html
注:次系列文章是我在ImportNew的基礎上進行整理翻譯的(主要是格式修改和翻譯校對)。

對於Java開發人員來說,瞭解垃圾回收機制(GC)有哪些好處呢?首先可以滿足作爲一名軟件工程師的求知慾,其次,深入瞭解GC如何工作可以幫你寫出更好的Java應用。

這僅僅代表我個人的意見,但我堅信一個精通GC的人往往是一個好的Java開發者。如果你對GC的處理過程感興趣,說明你已經具備較大規模應用的開發經驗。如果你曾經想過如何正確的選擇GC算法,那意味着你已經完全理解你所開發的應用的特點。當然,我們不能以偏概全,這不能作爲評價一個好的開發人員的共通標準。但是,我要說的是,深入理解GC是成爲一名偉大的程序員的必經之路。

這是成爲JavaGC專家系列文章的第一篇,本篇主要針對GC機制進行介紹,在下一篇中,我們將重點探討分析GC狀態以及來自NHN的GC調優的例子。

本文的目的是以一種簡單的方式向你介紹GC機制。我希望這些文章能夠幫到你。實際上,我的學生已經在Twitter上發佈了一些很好的關於Java內核的文章,並且大受歡迎。有興趣的話,你也可以關注他們。

回到正題,咱們繼續談垃圾回收,在學習GC之前,你首先應該記住一個單詞:“stop-the-world”。Stop-the-world會在任何一種GC算法中發生。Stop-the-world意味着 JVM 因爲要執行GC而停止了應用程序的執行。當Stop-the-world發生時,除了GC所需的線程以外,所有線程都處於等待狀態,直到GC任務完成。GC優化很多時候就是指減少Stop-the-world發生的時間。

按代的垃圾回收機制

在Java程序中不能顯式地分配和註銷內存。有些人把相關的對象設置爲null或者調用System.gc()來試圖顯式地清理內存。設置爲null至少沒什麼壞處,但是調用System.gc()會顯著地影響系統性能,必須徹底杜絕(還好,我還沒有見到NHN的哪個開發者調用這個方法)。

在Java中,開發人員無法直接在程序代碼中清理內存,而是由垃圾回收器自動尋找不必要的垃圾對象,並且清理掉他們。垃圾回收器會在下面兩種假設(hypotheses)成立的情況下被創建(稱之爲假設不如改爲推測(suppositions)或者前提(preconditions))。

  • 大多數對象會很快變得不可達
  • 只有很少的由老對象(創建時間較長的對象)指向新生對象的引用

這些假設我們稱之爲弱年代假設( weak generational hypothesis)。爲了強化這一假設,HotSpot虛擬機將其物理上劃分爲兩個區域:年輕代(young generation)和年老代(old generation)。
年輕代(Young generation): 絕大多數最新被創建的對象會被分配到這裏,由於大部分對象在創建後會很快變得不可到達,所以很多對象被創建在年輕代,然後消失。對象從這個區域消失的過程我們稱之爲”minor GC“。

年老代(Old generation): 對象沒有變得不可達,並且從新生代中存活下來,會被拷貝到這裏。其所佔用的空間要比新生代多。也正由於其相對較大的空間,發生在年老代上的GC要比年輕代少得多。對象從老年代中消失的過程,我們稱之爲”major GC“(或者”full GC“)

請看下面這個圖表。

 圖1 : GC 空間 & 數據流

上圖中的持久代( permanent generation )也被稱爲方法區method area)。他用來保存類常量以及字符串常量。因此,這個區域不是用來永久的存儲那些從老年代存活下來的對象。這個區域也可能發生GC,並且發生在這個區域上的GC事件也會被算爲major GC。

有些人可能會問:
如果老年代的對象需要引用一個新生代的對象,會發生什麼呢?
爲了解決這個問題,老年代中存在一個”card table“,他是一個512 byte大小的塊。所有老年代的對象指向新生代對象的引用都會被記錄在這個表中。當針對新生代執行GC的時候,只需要查詢card table來決定是否可以被收集,而不用查詢整個老年代。這個card table由一個write barrier來管理。write barrier給GC帶來了很大的性能提升,雖然由此可能帶來一些開銷,但GC的整體時間被顯著的減少。

 

圖 2: Card Table 結構

 年輕代的構成

爲了更好地理解GC,我們現在來學習年輕代,年輕代是用來保存那些第一次被創建的對象,他可以被分爲三個空間

  •  一個伊甸園空間(Eden 
  •  兩個倖存者空間(Survivor )

一共有三個空間,其中包含兩個倖存者空間。每個空間的執行順序如下:

  1. 絕大多數剛剛被創建的對象會存放在伊甸園空間。
  2. 在伊甸園空間執行了第一次GC之後,存活的對象被移動到其中一個倖存者空間。
  3. 此後,在伊甸園空間執行GC之後,存活的對象會被堆積在同一個倖存者空間。
  4. 當一個倖存者空間飽和,還在存活的對象會被移動到另一個倖存者空間。之後會清空已經飽和的那個倖存者空間。
  5. 在以上的步驟中重複幾次依然存活的對象,就會被移動到老年代。

如果你仔細觀察這些步驟就會發現,其中一個倖存者空間必須保持是空的。如果兩個倖存者空間都有數據,或者兩個空間都是空的,那一定標誌着你的系統出現了某種錯誤。
通過頻繁的minor GC將數據移動到年老代的過程可以用下圖來描述:

 

圖 3: GC執行前後對比

需要注意的是HotSpot虛擬機使用了兩種技術來加快內存分配。他們分別是是”bump-the-pointer“和“TLABs(Thread-Local Allocation Buffers)”。

Bump-the-pointer技術跟蹤在伊甸園空間創建的最後一個對象。這個對象會被放在伊甸園空間的頂部。如果之後再需要創建對象,只需要檢查伊甸園空間是否有足夠的剩餘空間。如果有足夠的空間,對象就會被創建在伊甸園空間,並且被放置在頂部。這樣以來,每次創建新的對象時,只需要檢查最後被創建的對象。這將極大地加快內存分配速度。但是,如果我們在多線程的情況下,事情將截然不同。如果想要以線程安全的方式以多線程在伊甸園空間存儲對象,不可避免的需要加鎖,而這將極大地的影響性能。TLABs 是HotSpot虛擬機針對這一問題的解決方案。該方案爲每一個線程在伊甸園空間分配一塊獨享的空間,這樣每個線程只訪問他們自己的TLAB空間,再與bump-the-pointer技術結合可以在不加鎖的情況下分配內存。
以上是針對新生代空間GC技術的簡要介紹,你不需要刻意記住我剛剛提到的兩種技術。不知道他們不會對你產生什麼影響,但是請務必記住在對象剛剛被創建之後,是保存在伊甸園空間的。那些長期存活的對象會經由倖存者空間轉存在年老代區域

老年代GC處理機制

年老代區域的GC事件基本上是在空間已滿時發生,執行的過程根據GC類型不同而不同,因此,瞭解不同的GC類型將有助於你理解本節的內容。
JDK7一共有5種GC類型:

  1. Serial GC
  2. Parallel GC
  3. Parallel Old GC (Parallel Compacting GC)
  4. Concurrent Mark & Sweep GC  (or “CMS”)
  5. Garbage First (G1) GC

其中,Serial GC不應該被用在服務器上。這種GC類型在單核CPU的桌面電腦時代就存在了。使用Serial GC會顯著的降低應用的性能指標。
現在,讓我們共同學習每一種GC類型

1. Serial GC (-XX:+UseSerialGC)

新生代空間的GC方式我們在前面已經介紹過了,在老年代空間中的GC採取稱之爲”mark-sweep-compact“的算法。

  1. 算法的第一步是標記老年代中依然存活對象。(標記)
  2. 第二步,從頭開始檢查堆內存空間,並且只留下依然倖存的對象。(清理)

最後一步,從頭開始,順序地填滿堆內存空間,並且將對內存空間分成兩部分:一個保存着對象,另一個空着(壓縮)。

2. Parallel GC (-XX:+UseParallelGC)


圖 4: Serial GC 與 Parallel GC的區別

從上圖中,你可以輕易地看出serial GC和parallel GC的區別,serial GC只使用一個線程執行GC,而parallel GC使用多個線程,因此parallel GC更高效。這種GC在內存充足以及多核的情況下會很有用,因此我們也稱之爲”throughput GC“。

3. Parallel Old GC(-XX:+UseParallelOldGC)

Parallel Old GC在JDK5之後出現。與parallel GC相比,唯一的區別在於針對老年代的GC算法。Parallel Old GC分爲三步:標記-彙總-壓縮(mark – summary – compaction)。彙總(summary)步驟與清理(sweep)的不同之處在於,其將依然倖存的對象分發到GC預先處理好的不同區域,算法相對清理來說略微複雜一點。

4. CMS GC (-XX:+UseConcMarkSweepGC)


圖 5: Serial GC & CMS GC

就像你從上圖看到的那樣, CMS GC比我之前解釋的各種算法都要複雜很多。第一步初始化標記(initial mark) 比較簡單。這一步驟只是查找那些距離類加載器最近的倖存對象。因此,停頓的時間非常短暫。在之後的並行標記( concurrent mark )步驟,所有被倖存對象引用的對象會被確認是否已經被追蹤和校驗。這一步的不同之處在於,在標記的過程中,其他的線程依然在執行。在重新標記(remark)步驟,會再次檢查那些在並行標記步驟中增加或者刪除的與倖存對象引用的對象。最後,在並行交換( concurrent sweep )步驟,轉交垃圾回收過程處理。垃圾回收工作會在其他線程的執行過程中展開。一旦採取了這種GC類型,由GC導致的暫停時間會極其短暫。CMS GC也被稱爲低延遲GC。它經常被用在那些對於響應時間要求十分苛刻的應用之上。

當然,這種GC類型在擁有stop-the-world時間很短的優點的同時,也有如下缺點:

  •  它會比其他GC類型佔用更多的內存和CPU
  •  默認情況下不支持壓縮步驟

在使用這個GC類型之前你需要慎重考慮。如果因爲內存碎片過多而導致壓縮任務不得不執行,那麼stop-the-world的時間要比其他任何GC類型都長,你需要考慮壓縮任務的發生頻率以及執行時間。

5. G1 GC

最後,我們來學習垃圾回收優先(G1)GC類型。

圖 6:  G1 GC的結構

 如果你想要理解G1,首先你要忘記你所學過的新生代和老年代的概念。正如你在上圖所看到的,每個對象被分配到不同的格子,隨後GC執行。當一個區域裝滿之後,對象被分配到另一個區域,並執行GC。這中間不再有從新生代移動到老年代的三個步驟。這個類型是爲了替代CMS GC而被創建的,因爲CMS GC在長時間持續運作時會產生很多問題。

G1最大的好處是性能,他比我們在上面討論過的任何一種GC都要快。但是在JDK 6中,他還只是一個早期試用版本。在JDK7之後才由官方正式發佈。就我個人看來,NHN在將JDK 7正式投入商用之前需要很長的一段測試期(至少一年)。因此你可能需要再等一段時間。並且,我也聽過幾次使用了JDK 6中的G1而導致Java虛擬機宕機的事件。請耐心的等到它更穩定吧。

下一次我將討論GC優化相關的問題,但是在此之前我要先明確一件事情,假如應用中創建的所有對象的大小和類型都是統一的,那麼公司使用的WAS的GC參數可以是相同的。但是WAS所創建對象的大小和生命週期根據服務以及硬件的不同而不同。換句話說,不能因爲某個應用使用的GC參數“A”,就說明同樣的參數也能給其他服務帶來最佳的效果。而是要因地制宜,有的放矢。我們需要找到適合每個WAS線程的參數,並且持續的監控和優化每個設備上的WAS實例。這並不是我的一家之談,而是負責Oracle Java虛擬機研發的工程師在 JavaOne 2010上已經討論過的。

本文中我們簡略的介紹了Java的GC機制,請繼續關於我們的後續文章,我們將會討論如何監控Java GC狀態以及優化GC。

另外,我特別推薦一本2011年12月發佈的《Java性能》(Amazon,也可以通過safari在線閱讀),還有在Oracle官網發佈的白皮書《Java HotSpotTM虛擬機內存管理》(這本書與Java性能優化不是同一本) 作者Sangmin Lee, NHN公司,性能工程師實驗室高級工程師。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章