Paxos算法原理與推導

Paxos算法在分佈式領域具有非常重要的地位。但是Paxos算法有兩個比較明顯的缺點：1.難以理解 2.工程實現更難。

網上有很多講解Paxos算法的文章，但是質量參差不齊。看了很多關於Paxos的資料後發現，學習Paxos最好的資料是論文《Paxos Made Simple》，其次是中、英文版維基百科對Paxos的介紹。本文試圖帶大家一步步揭開Paxos神祕的面紗。

Paxos是什麼

Paxos算法是基於消息傳遞且具有高度容錯特性的一致性算法，是目前公認的解決分佈式一致性問題最有效的算法之一。

Google Chubby的作者Mike Burrows說過這個世界上只有一種一致性算法，那就是Paxos，其它的算法都是殘次品。

雖然Mike Burrows說得有點誇張，但是至少說明了Paxos算法的地位。然而，Paxos算法也因爲晦澀難懂而臭名昭著。本文的目的就是帶領大家深入淺出理解Paxos算法，不僅理解它的執行流程，還要理解算法的推導過程，作者是怎麼一步步想到最終的方案的。只有理解了推導過程，才能深刻掌握該算法的精髓。而且理解推導過程對於我們的思維也是非常有幫助的，可能會給我們帶來一些解決問題的思路，對我們有所啓發。

問題產生的背景

在常見的分佈式系統中，總會發生諸如機器宕機或網絡異常（包括消息的延遲、丟失、重複、亂序，還有網絡分區）等情況。Paxos算法需要解決的問題就是如何在一個可能發生上述異常的分佈式系統中，快速且正確地在集羣內部對某個數據的值達成一致，並且保證不論發生以上任何異常，都不會破壞整個系統的一致性。

注：這裏某個數據的值並不只是狹義上的某個數，它可以是一條日誌，也可以是一條命令（command）。。。根據應用場景不同，某個數據的值有不同的含義。

相關概念

在Paxos算法中，有三種角色：

• Proposer
• Acceptor
• Learners

在具體的實現中，一個進程可能同時充當多種角色。比如一個進程可能既是Proposer又是Acceptor又是Learner。

還有一個很重要的概念叫提案（Proposal）。最終要達成一致的value就在提案裏。

注：

• 暫且認爲『提案=value』，即提案只包含value。在我們接下來的推導過程中會發現如果提案只包含value，會有問題，於是我們再對提案重新設計。
• 暫且認爲『Proposer可以直接提出提案』。在我們接下來的推導過程中會發現如果Proposer直接提出提案會有問題，需要增加一個學習提案的過程。

Proposer可以提出（propose）提案；Acceptor可以接受（accept）提案；如果某個提案被選定（chosen），那麼該提案裏的value就被選定了。

回到剛剛說的『對某個數據的值達成一致』，指的是Proposer、Acceptor、Learner都認爲同一個value被選定（chosen）。那麼，Proposer、Acceptor、Learner分別在什麼情況下才能認爲某個value被選定呢？

• Proposer：只要Proposer發的提案被Acceptor接受（剛開始先認爲只需要一個Acceptor接受即可，在推導過程中會發現需要半數以上的Acceptor同意才行），Proposer就認爲該提案裏的value被選定了。
• Acceptor：只要Acceptor接受了某個提案，Acceptor就任務該提案裏的value被選定了。
• Learner：Acceptor告訴Learner哪個value被選定，Learner就認爲那個value被選定。

問題描述

假設有一組可以提出（propose）value（value在提案Proposal裏）的進程集合。一個一致性算法需要保證提出的這麼多value中，只有一個value被選定（chosen）。如果沒有value被提出，就不應該有value被選定。如果一個value被選定，那麼所有進程都應該能學習（learn）到這個被選定的value。對於一致性算法，安全性（safaty）要求如下：

• 只有被提出的value才能被選定。
• 只有一個value被選定，並且
• 如果某個進程認爲某個value被選定了，那麼這個value必須是真的被選定的那個。

我們不去精確地定義其活性（liveness）要求。我們的目標是保證最終有一個提出的value被選定。當一個value被選定後，進程最終也能學習到這個value。

Paxos的目標：保證最終有一個value會被選定，當value被選定後，進程最終也能獲取到被選定的value。

假設不同角色之間可以通過發送消息來進行通信，那麼：

• 每個角色以任意的速度執行，可能因出錯而停止，也可能會重啓。一個value被選定後，所有的角色可能失敗然後重啓，除非那些失敗後重啓的角色能記錄某些信息，否則等他們重啓後無法確定被選定的值。
• 消息在傳遞過程中可能出現任意時長的延遲，可能會重複，也可能丟失。但是消息不會被損壞，即消息內容不會被篡改（拜占庭將軍問題）。

推導過程

最簡單的方案——只有一個Acceptor

假設只有一個Acceptor（可以有多個Proposer），只要Acceptor接受它收到的第一個提案，則該提案被選定，該提案裏的value就是被選定的value。這樣就保證只有一個value會被選定。

但是，如果這個唯一的Acceptor宕機了，那麼整個系統就無法工作了！

因此，必須要有多個Acceptor！

多個Acceptor

多個Acceptor的情況如下圖。那麼，如何保證在多個Proposer和多個Acceptor的情況下選定一個value呢？

下面開始尋找解決方案。

如果我們希望即使只有一個Proposer提出了一個value，該value也最終被選定。

那麼，就得到下面的約束：

P1：一個Acceptor必須接受它收到的第一個提案。

但是，這又會引出另一個問題：如果每個Proposer分別提出不同的value，發給不同的Acceptor。根據P1，Acceptor分別接受自己收到的value，就導致不同的value被選定。出現了不一致。如下圖：

剛剛是因爲『一個提案只要被一個Acceptor接受，則該提案的value就被選定了』才導致了出現上面不一致的問題。因此，我們需要加一個規定：

規定：一個提案被選定需要被半數以上的Acceptor接受

這個規定又暗示了：『一個Acceptor必須能夠接受不止一個提案！』不然可能導致最終沒有value被選定。比如上圖的情況。v1、v2、v3都沒有被選定，因爲它們都只被一個Acceptor的接受。

最開始講的『提案=value』已經不能滿足需求了，於是重新設計提案，給每個提案加上一個提案編號，表示提案被提出的順序。令『提案=提案編號+value』。

雖然允許多個提案被選定，但必須保證所有被選定的提案都具有相同的value值。否則又會出現不一致。

於是有了下面的約束：

P2：如果某個value爲v的提案被選定了，那麼每個編號更高的被選定提案的value必須也是v。

一個提案只有被Acceptor接受纔可能被選定，因此我們可以把P2約束改寫成對Acceptor接受的提案的約束P2a。

P2a：如果某個value爲v的提案被選定了，那麼每個編號更高的被Acceptor接受的提案的value必須也是v。

只要滿足了P2a，就能滿足P2。

但是，考慮如下的情況：假設總的有5個Acceptor。Proposer2提出[M1,V1]的提案，Acceptor2~5（半數以上）均接受了該提案，於是對於Acceptor2~5和Proposer2來講，它們都認爲V1被選定。Acceptor1剛剛從宕機狀態恢復過來（之前Acceptor1沒有收到過任何提案），此時Proposer1向Acceptor1發送了[M2,V2]的提案（V2≠V1且M2>M1），對於Acceptor1來講，這是它收到的第一個提案。根據P1（一個Acceptor必須接受它收到的第一個提案。）,Acceptor1必須接受該提案！同時Acceptor1認爲V2被選定。這就出現了兩個問題：

1. Acceptor1認爲V2被選定，Acceptor2~5和Proposer2認爲V1被選定。出現了不一致。
2. V1被選定了，但是編號更高的被Acceptor1接受的提案[M2,V2]的value爲V2，且V2≠V1。這就跟P2a（如果某個value爲v的提案被選定了，那麼每個編號更高的被Acceptor接受的提案的value必須也是v）矛盾了。

所以我們要對P2a約束進行強化！

P2a是對Acceptor接受的提案約束，但其實提案是Proposer提出來的，所有我們可以對Proposer提出的提案進行約束。得到P2b：

P2b：如果某個value爲v的提案被選定了，那麼之後任何Proposer提出的編號更高的提案的value必須也是v。

由P2b可以推出P2a進而推出P2。

那麼，如何確保在某個value爲v的提案被選定後，Proposer提出的編號更高的提案的value都是v呢？

只要滿足P2c即可：

P2c：對於任意的N和V，如果提案[N, V]被提出，那麼存在一個半數以上的Acceptor組成的集合S，滿足以下兩個條件中的任意一個：

• S中每個Acceptor都沒有接受過編號小於N的提案。
• S中Acceptor接受過的最大編號的提案的value爲V。

Proposer生成提案

爲了滿足P2b，這裏有個比較重要的思想：Proposer生成提案之前，應該先去『學習』已經被選定或者可能被選定的value，然後以該value作爲自己提出的提案的value。如果沒有value被選定，Proposer纔可以自己決定value的值。這樣才能達成一致。這個學習的階段是通過一個『Prepare請求』實現的。

於是我們得到了如下的提案生成算法：

1. Proposer選擇一個新的提案編號N，然後向某個Acceptor集合（半數以上）發送請求，要求該集合中的每個Acceptor做出如下響應（response）。 (a) 向Proposer承諾保證不再接受任何編號小於N的提案。

   (b) 如果Acceptor已經接受過提案，那麼就向Proposer響應已經接受過的編號小於N的最大編號的提案。

   我們將該請求稱爲編號爲N的Prepare請求。

2. 如果Proposer收到了半數以上的Acceptor的響應，那麼它就可以生成編號爲N，Value爲V的提案[N,V]。這裏的V是所有的響應中編號最大的提案的Value。如果所有的響應中都沒有提案，那 麼此時V就可以由Proposer自己選擇。
   生成提案後，Proposer將該提案發送給半數以上的Acceptor集合，並期望這些Acceptor能接受該提案。我們稱該請求爲Accept請求。（注意：此時接受Accept請求的Acceptor集合不一定是之前響應Prepare請求的Acceptor集合）

Acceptor接受提案

Acceptor可以忽略任何請求（包括Prepare請求和Accept請求）而不用擔心破壞算法的安全性。因此，我們這裏要討論的是什麼時候Acceptor可以響應一個請求。

我們對Acceptor接受提案給出如下約束：

P1a：一個Acceptor只要尚未響應過任何編號大於N的Prepare請求，那麼他就可以接受這個編號爲N的提案。

如果Acceptor收到一個編號爲N的Prepare請求，在此之前它已經響應過編號大於N的Prepare請求。根據P1a，該Acceptor不可能接受編號爲N的提案。因此，該Acceptor可以忽略編號爲N的Prepare請求。當然，也可以回覆一個error，讓Proposer儘早知道自己的提案不會被接受。

因此，一個Acceptor只需記住：1. 已接受的編號最大的提案 2. 已響應的請求的最大編號。

Paxos算法描述

經過上面的推導，我們總結下Paxos算法的流程。

Paxos算法分爲兩個階段。具體如下：

• 階段一：

  (a) Proposer選擇一個提案編號N，然後向半數以上的Acceptor發送編號爲N的Prepare請求。

  (b) 如果一個Acceptor收到一個編號爲N的Prepare請求，且N大於該Acceptor已經響應過的所有Prepare請求的編號，那麼它就會將它已經接受過的編號最大的提案（如果有的話）作爲響應反饋給Proposer，同時該Acceptor承諾不再接受任何編號小於N的提案。

• 階段二：

  (a) 如果Proposer收到半數以上Acceptor對其發出的編號爲N的Prepare請求的響應，那麼它就會發送一個針對[N,V]提案的Accept請求給半數以上的Acceptor。注意：V就是收到的響應中編號最大的提案的value，如果響應中不包含任何提案，那麼V就由Proposer自己決定。

  (b) 如果Acceptor收到一個針對編號爲N的提案的Accept請求，只要該Acceptor沒有對編號大於N的Prepare請求做出過響應，它就接受該提案。

Learner學習被選定的value

Learner學習（獲取）被選定的value有如下三種方案：

如何保證Paxos算法的活性

通過選取主Proposer，就可以保證Paxos算法的活性。至此，我們得到一個既能保證安全性，又能保證活性的分佈式一致性算法——Paxos算法。

參考資料

• 論文《Paxos Made Simple》
• 論文《The Part-Time Parliament》
• 英文版維基百科的Paxos
• 中文版維基百科的Paxos
• 書籍《從Paxos到ZooKeeper》