20191128 分佈式系統下最終一致性案例

分佈式事務:這種解決方案的成本是非常高的,而且實現起來非常複雜,效率也比較低下。對於極端的情況:例如發佈,故障的時候都是沒有辦法保證強一致性的。

訂單系統,支付系統,倉庫系統是三個獨立的應用,是獨立部署的,系統之間通過遠程服務調用。

訂單的有三個狀態:I:初始 P:已支付 W:已出庫,訂單金額100, 會員帳戶餘額200

如果整個流程比較順利,正常情況下,訂單的狀態會變爲I->P->W,會員帳戶餘額100,訂單出庫。

但是如果流程不順利了呢?考慮以下幾種情況

1:訂單系統調用支付系統支付訂單,支付成功,但是返回給訂單系統數據超時支付成功,餘額已經發生改變,但是訂單還是初始狀態),訂單還是I(初始狀態),但是此時會員帳戶餘額100,會員肯定會馬上找京東罵京東,爲啥不給老子發貨,我都付錢了

2:訂單系統調用支付系統成功,狀態也已經更新成功,但是通知倉庫發貨失敗,這個時候訂單是P(已支付)狀態,此時會員帳戶餘額是100,但是倉庫不會發貨。會員也要罵京東。

3:訂單系統調用支付系統成功,狀態也已經更新成功,然後通知倉庫發貨,倉庫告訴訂單系統,沒有貨了(倉儲系統無貨)。這個時候數據狀態和第二種情況一樣。

 

對於情況一的問題,我們來分析一下解決方案,能想到的解決方案如下:

1 假設調用支付系統支付訂單的時候先不扣錢,訂單狀態更新完成之後,再通知支付系統你扣錢。(訂單狀態:已經支付成功,但是餘額還沒有減少,用戶再下單其他的也可以成功)

如果採用這種設計方案,那麼在同一時刻,這個用戶又支付了另外一筆訂單,訂單價格200,順利完成了整個訂單支付流程,由於當前訂單的狀態已經變成了支付成功,但是實際用戶已經沒有錢支付了,這筆訂單的狀態就不一致了。即使用戶在同一個時刻沒有進行另外的訂單支付行爲,通知支付系統扣錢這個動作也有可能完不成,因爲也有可能失敗,反而增加了系統的複雜性

 

2 訂單系統自動發起重試,多重試幾次,例如三次,直到扣款成功爲止(重試機制,重試機制的前提是接口要能保證冪等性;如果對方正在發佈,永遠重試不成功)。

這個看起來也是不錯的考慮,但是和解決方案一樣,解決不了問題,還會帶來新的問題,假設訂單系統第一次調用支付系統成功,但是沒有辦法收到應答,訂單系統又發起調用,完了,重複支付,一次訂單支付了200。(重試機制的前提是接口要能保證冪等性)

假設支付系統正在發佈,你重試多少次都一樣,都會失敗。這個時候用戶在等待,你怎麼處理?

 

3 在第二種方案的基礎上,我們先解決訂單的重複支付行爲,我們需要在支付系統上對訂單號進行控制,一筆訂單如果已經支付成功(定義支付標識),不能在進行支付。返回重複支付標識。那麼訂單系統根據返回的標識,更新訂單狀態。

接下來解決重試問題,我們假設應用上重試三次,如果三次都失敗,先返回給用戶提示支付結果未知。假設這個時候用戶重新發起支付,訂單系統調用支付系統,發現訂單已經支付,那麼繼續下面的流程。如果會員沒有發起支付,系統定時(一分鐘一次)去核對訂單狀態,如果發現已經被支付,則繼續後續的流程。

這種方案,用戶體驗非常差,告訴用戶支付結果未知,用戶一定會罵你,你丫咋回事情,我明明支付了,你告訴我未知。假設告訴用戶支付失敗,萬一實際是成功的咋辦。你告訴用戶支付成功,萬一支付失敗咋辦。

 

4 第三種方案能夠解決訂單和支付數據的一致性問題,但是用戶體驗非常差。當然這種情況比較可能是少數,可以犧牲這一部分的用戶體驗,我們還有沒有更好的解決方案,既能照顧用戶體驗,又能夠保證資金的安全性。

我們再回來看看第一種方案,我們先不扣錢,但是有木有辦法讓這一部分錢不讓用戶使用,對了,我們先把這一部分錢凍結起來。訂單系統先調用支付系統成功的時候,支付系統先不扣錢,而是先把錢凍結起來,不讓用戶給其他訂單支付,然後等訂單系統把訂單狀態更新爲支付成功的時候,再通知支付系統,你扣錢吧,這個時候支付系統扣錢,完成後續的操作。

看起來這個方案不錯,我們仔細在分析一下流程,這個方案還存在什麼問題,假設訂單系統在調用支付系統凍結的時候,支付系統凍結成功,但是訂單系統超時,這個時候返回給用戶,告知用戶支付失敗,如果用戶再次支付這筆訂單,那麼由於支付系統進行控制,告訴訂單系統凍結成功,訂單系統更新狀態,然後通知支付系統,扣錢吧。如果這個時候通知失敗,木有問題,反正錢都已經是凍結的了,用戶不能用,我只要定時掃描訂單和支付狀態,進行扣錢而已。

那麼如果變態的用戶重新拍下來一筆訂單,100塊錢,對新的訂單進行支付,這個時候由於先前那一筆訂單的錢被凍結了,這個時候用戶餘額剩餘100,凍結100,發現可用的餘額足夠,那就直接在對用戶扣錢。這個時候餘額剩餘0,凍結100。先前那一筆怎麼辦,一個辦法就是定時掃描(這是一種補償機制),發現訂單狀態是初始的話,就對用戶的支付餘額進行解凍處理。這個時候用戶的餘額變成100,訂單數據和支付數據又一致了。   假設原先用戶餘額只有100,被凍結了,用戶重新下單,支付的時候就失敗了啊,的確會發生這一種情況,所以要儘可能的保證在第一次訂單結果不明確的情況,儘早解凍用戶餘額,比如10秒之內。但是不管如何快速,總有數據不一致的時刻,這個是沒有辦法避免的

 

上面分析解決了第一個的問題以及相應的方案,發現在分佈式的環境下,很難絕對的保證數據一致性(任何一段區間),但是有辦法通過一種補償機制,最終保證數據的一致性

 

下面再分析一下第二個問題:訂單系統調用支付系統成功,狀態也已經更新成功,但是通知倉庫發貨失敗,這個時候訂單是P(已支付)狀態,此時會員帳戶餘額是100,但是倉庫不會發貨。會員也要罵京東。

通過上面的分析,這個相對來說是比較簡單的,我可以採取重試機制,如果發現通知倉庫發貨失敗,就一直重試,這裏面有兩種方式:

1 異步方式:通過類似MQ(消息通知)的機制,這個是異步的通知

2 同步調用:類似於遠程過程調用

對於同步的調用的方式,比較簡單,我們能夠及時獲取結果;對於異步的通知,就必須採用請求,應答的方式進行,這一點在(關於分佈式系統的數據一致性問題(一))裏面有介紹。這裏面就不再闡述。

 

發送mq消息給倉庫系統,讓他發貨,不成功,就一直重試。

哪些場景適合重試機制?哪些問題適合通過重試手段進行解決。通知倉庫服務發貨失敗。

 

來看看第三個問題:訂單系統調用支付系統成功,狀態也已經更新成功,然後通知倉庫發貨,倉庫告訴訂單系統,沒有貨了。這個時候數據狀態和第二種情況一樣。

我覺得這是一個很有意思的問題,我們還是考慮幾種解決的方案

1 在會員下單的時刻,就告訴倉庫,我要你把貨物留下來;

2 在會員支付訂單時候,在支付之前檢查倉庫有沒有貨,如果沒有貨,就告知會員木有貨物了;

3 如果會員支付成功,這個時候沒有貨了,就會退款給用戶或者等待有貨的時候再發貨正常情況(超賣現象),京東的倉庫一般都是有貨的,所以影響到的會員很少,但是在秒殺和營銷的時候,這個時候就不一定了,我們考慮假設倉庫有10臺iphone。

如果採用第一種方案,

1 在會員下單的時候,相當於庫存就減1,那麼用戶惡意拍下來,沒有去支付,就影響到了其他用戶的購買。京東可以設置一個訂單超時時間,如果這段時間內沒有支付,就自動取消訂單(庫存+1)。

2 在會員支付之前,檢查倉庫有貨,這種方案了,對於用戶體驗不好,但是對於京東比較好,至少我東西都賣出去了。那些沒有及時付款的用戶,只能投訴了京東無故取消訂單.

3 第三種方案,這個方案體驗更不好,而且用戶感覺受到京東欺詐,但是對於京東來說,比第二種方案更有益,畢竟我還可以多賣出一點東西。

 

個人覺得,京東應該會採用第二種或者第三種方式來處理這類情況,我在微博上搜索了 “京東 無故取消訂單”,發現果真和我預料的處理方式。不過至於這裏的無故取消是不是技術上的原因我不知道,如果真的是技術上的原因,我覺得京東可以採用不同的處理方案。對於秒殺和促銷商品,可以考慮第一種方案,大多數人都會直接付款,畢竟便宜啊,如果用戶搶不到便宜的東西,抱怨當然很大了。這樣可以照顧大多數用戶的體驗。對於一般的訂單,可以採用第二種或者第三種方式,這種情況下,發生付款之後倉庫沒有貨的情況會比較少,並且就算髮生了,用戶也會覺得無所謂,大不了退錢嗎,這樣就可以實現自己的利益最大化而最低程度的減少用戶體驗

 

而鐵道部在這個問題上,採用的是第一種方案,爲什麼和京東不一樣,就是因爲用戶體驗,如果用戶把票都買了,你告訴我木有票了,旅客會殺人的。哈哈,不過鐵道部不擔心票賣不出去,第一種方案對他影響沒有什麼。

說了這麼多,就是說 分佈式環境下(數據分佈)要任何時刻保證數據一致性是不可能的,只能採取妥協的方案來保證數據最終一致性。這個也就是著名的CAP定理。

 

這3個核心的需求是:Consistency,Availability和Partition Tolerance,賦予了該理論另外一個名字 - CAP。

Consistency:一致性,這個和數據庫ACID的一致性類似,但這裏關注的所有節點上的數據一致性和正確性,而數據庫的ACID關注的是在在一個事務內,對數據的一些約束。

Availability:可用性,關注的在某個結點是否可用,可以認爲某一個節點的系統是否可用,通信故障除外。

Partition Tolerance:分區容忍性,是否可以對數據進行分區。這是考慮到性能和可伸縮性(數據分區)。

 

分區,結點之間進行通訊。通訊完成的這一段時間內,數據是不一致的

爲什麼不能完全保證這個三點了,個人覺得主要是因爲一旦進行分區了,就說明了必須節點之間必須進行通信,涉及到通信,就無法確保在有限的時間內完成指定的行文,如果要求兩個操作之間要完整的進行,因爲涉及到通信,肯定存在某一個時刻只完成一部分的業務操作,在通信完成的這一段時間內,數據就是不一致性的。如果要求保證一致性,那麼就必須在通信完成這一段時間內保護數據,使得任何訪問這些數據的操作不可用。

如果想保證一致性和可用性,那麼數據就不能夠分區(不存在主從複製)。一個簡單的理解就是所有的數據就必須存放在一個數據庫裏面,不能進行數據庫拆分。這個對於大數據量,高併發的互聯網應用來說,是不可接受的。

 

由於這個涉及到資金上的問題,對資金要求比較高,我們必須保證一致性

 

任何架構師在設計分佈式的系統的時候,都必須在這三者之間進行取捨。首先就是是否選擇分區,由於在一個數據分區內,根據數據庫的ACID特性,是可以保證一致性的,不會存在可用性和一致性的問題,唯一需要考慮的就是性能問題。對於可用性和一致性,大多數應用就必須保證可用性,畢竟是互聯網應用,犧牲了可用性,相當於間接的影響了用戶體驗,而唯一可以考慮就是一致性了

 

犧牲一致性

對於犧牲一致性的情況最多的就是緩存和數據庫的數據同步問題,我們把緩存看做一個數據分區節點,數據庫看作另外一個節點,這兩個節點之間的數據在任何時刻都無法保證一致性的。在web2.0這樣的業務,開心網來舉例子,訪問一個用戶的信息的時候,可以先訪問緩存的數據,但是如果用戶修改了自己的一些信息,首先修改的是數據庫,然後在通知緩存進行更新,這段期間內就會導致的數據不一致,用戶可能訪問的是一個過期的緩存,而不是最新的數據。但是由於這些業務對一致性的要求不太高,不會帶來太大的影響。

異常錯誤檢測和補償

通過一種補償機制,最終保證數據的一致性。

這個案例使用了哪些手段或者策略保證數據的一致性。

 

 

發佈了303 篇原創文章 · 獲贊 104 · 訪問量 51萬+
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章