Java併發:有關並行的兩個重要定律

有關爲什麼要使用並行程序的問題前面已經進行了簡單的探討。總的來說,最重要的應該是處於兩個目的。

第一,爲了獲得更好的性能;

第二,由於業務模型的需要,確實需要多個執行實體。

在這裏,我將更加關注第一種情況,也就是有關性能的問題。將串行程序改造爲併發程序,一般來說可以提高程序的整體性能,但是究竟能提高多少,甚至說究竟是否真的可以提高,還是一個需要研究的問題。目前,主要有兩個定律對這個問題進行解答,一個是Amdahl定律,另外一個是Gustafson定律。

Amdahl(阿姆達爾)定律

Amdahl定律是計算機科學中非常重要的定律。它定義了串行系統並行化後的加速比的計算公式和理論上線。

加速比定義:加速比 = 優化前系統耗時 / 優化後系統耗時

所謂加速比就是優化前耗時優化後耗時的比值。加速比越高,表明優化效果越明顯。圖1.8顯示了Amdahl公式的推到過程,其中n表示處理器個數,T表示時間,T1表示優化前耗時(也就是隻有1個處理器時的耗時),Tn表示使用n個處理器優化後的耗時。F是程序中只能串行執行的比例。

根據這個公式,如果CPU處理器數量趨於無窮,那麼加速比與系統的串行化比例成反比,如果系統中必須有50%的代碼串行執行,那麼系統的最大加速比爲2。

假設有一個程序分爲以下步驟執行,每個執行步驟花費100個單位時間。其中,只有步驟2和步驟5可以並行,步驟1、3、4必須串行,如圖1.9所示。在全串行的情況下,系統合計耗時爲500個單位時間。

若步驟2和步驟5並行化,假設在雙核處理器上,則有如圖1.10所示的處理流程。在這種情況下,步驟2和步驟5的耗時將爲50個單位時間。故系統整體耗時爲400個單位時間。根據加速比的定義有:

加速比 = 優化前系統耗時 / 優化後系統耗時 = 500/400 = 1.25

由於5個步驟中,3個步驟必須串行,因此其串行化比例爲3/5=0.6,即 F = 0.6,且雙核處理器的處理器個數N爲2。代入加速比公式得:

加速比 = 1/(0.6+(1-0.6)/2)=1.25

在極端情況下,假設並行處理器個數爲無窮大,則有如圖1.11所示的處理過程。步驟2和步驟5的處理時間趨於0。即使這樣,系統整體耗時依然大於300個單位時間。使用加速比計算公式,N趨於無窮大,有加速比 = 1/F,且F=0.6,故有加速比=1.67。即加速比的極限爲500/300=1.67。

由此可見,爲了提高系統的速度,僅增加CPU處理的數量並不一定能起到有效的作用。需要從根本上修改程序的串行行爲,提高系統內可並行化的模塊比重,在此基礎上,合理增加並行處理器數量,才能以最小的投入,得到最大的加速比。

注意:根據Amdahl定律,使用多核CPU對系統進行優化,優化的效果取決於CPU的數量,以及系統中串行化程序的比例。CPU數量越多,串行化比例越低,則優化效果越好。僅提高CPU數量而不降低程序的串行化比例,也無法提高系統的性能。

阿姆達爾定律圖示

爲了更好地理解阿姆達爾定律,我會嘗試演示這個定定律是如何誕生的。

首先,一個程序可以被分割爲兩部分,一部分爲不可並行部分B,一部分爲可並行部分1 – B。如下圖:

在頂部被帶有分割線的那條直線代表總時間 T(1)。

下面你可以看到在並行因子爲2的情況下的執行時間:

並行因子爲3的情況:

舉個例子

一個業務會串行調用2個方法,m1,m2,m1耗時100ms,m2耗時400ms,m2內部串行執行了4個無依賴的任務,每個任務100ms,如下圖:

m2內部的4個任務無依賴的,即可以並行進行處理,4個任務同時並行,當cpu數量大於等於4的時候,可以讓4個任務同時進行,此時m2耗時最小,即100ms,cpu爲2個的時候,同時只能夠執行2個任務,其他2個任務處於等待cpu分配時間片狀態,此時m2耗時200ms;當cpu超過4個的時候,或者趨於無限大的時候,m2耗時還是100ms,此時cpu數量再怎麼增加對性能也沒有提升了,此時需要提升的是任務可以並行的數量。

從阿姆達爾定律可以看出,程序的可並行化部分可以通過使用更多的硬件(更多的線程或CPU)運行更快。對於不可並行化的部分,只能通過優化代碼來達到提速的目的。因此,你可以通過優化不可並行化部分來提高你的程序的運行速度和並行能力。你可以對不可並行化在算法上做一點改動,如果有可能,你也可以把一些移到可並行化放的部分。

Gustafson定律

Gustafson定律也試圖說明處理器個數、串行化比例和加速比之間的關係,如圖1.12所示,但是Gustafson定律和Amdahl定律的角度不同。同樣,加速比都被定義爲優化前的系統耗時除以優化後的系統耗時。

根據Gustafson定律,我們可以更容易地發現,如果串行化比例很小,並行化比例很大,那麼加速比就是處理器的個數。只要不斷地累加處理器,就能獲得更快的速度。

Amdahl定律和Gustafson定律結論有所不同,並不是說其中有個是錯誤的,只是二者從不同的角度去看待問題的結果,他們的側重點有所不同。

Amdahl強調:當串行換比例一定時,加速比是有上限的,不管你堆疊多少個CPU參與計算,都不能突破這個上限。 

Gustafson定律關係的是:如果可被並行化的代碼所佔比例足夠大,那麼加速比就能隨着CPU的數量線性增長。

總的來說,提升性能的方法:想辦法提升系統並行的比例,同時增加CPU數量。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章