- 概述 -
在 《柔性事務之TCC詳解》 和《柔性事務之Saga詳解》兩文中我們詳細剖析了柔性事務的第一個分支補償型事務。在《剛性事務總結和柔性事務概述》中我們介紹過的柔性事務包含補償型事務和通知型事務。
通知型事務主要包含事務消息和最大努力通知型分佈式事務兩個組成。通知型事務的核心思想是通過MQ來通知其他事務參與者自己事務的執行狀態。MQ組件的引入有效的將事務參與者解耦開,各個參與者都可以異步執行,所以通知型事務又稱爲異步事務。
事務消息的難度在於服務本地事務和投遞消息的一致性保障。目前業界解決這個一致性的方案有兩個分支:
-
基於MQ自身的事務消息方案
-
基於DB的本地消息表方案
- 基於MQ自身的事務消息方案 -
基於MQ的事務消息方案主要依靠MQ的半消息機制來實現投遞消息和參與者自身本地事務的一致性保障。半消息機制實現原理其實借鑑的2PC的思路,是二階段提交的廣義拓展,流程圖如下:
- 事務發起方首先發送prepare消息到MQ;
- 在發送prepare消息成功後執行本地事務;
- 根據本地事務執行結果返回commit或者是rollback;
- 如果消息是rollback, MQ將刪除該prepare消息不進行下發,如果是commit消息,MQ將會消息發送給consumer端;
- 如果執行本地事務過程中,執行端掛掉,或者超時,MQ服務器端將不停的詢問producer來獲取事務狀態;
- Consumer端的消費成功機制有MQ保證
MQ事務消息方案因爲使用了半消息機制,對業務頁具有比較大侵入性,有以下注意點:
- 業務方調用半消息,並提供對應的回查方法;
- MQ提要提供半消息機制,並定期掃描長期半消息,對消息生產者進行回查確認事務。
- 消費方需要進行冪等消費。
- 基於BD的本地消息表方案 -
有時候我們目前的MQ組件並不支持事務消息,或者我們想盡量少的侵入業務方。這時我們需要另外一種方案“基於DB本地消息表",流程圖如下:
- 業務方:直接利用本地事務,將業務數據和事務消息直接寫入數據庫。
- 投遞線程:使用專門的投遞工作線程進行事務消息投遞到MQ,根據投遞ACK去刪除事務消息表記錄
本地事務消息表的優勢在於方案的通用性,無需提供回查方法,進一步減少的業務的侵入。在某些場景下,還可以進一步利用註解等形式進行解耦,有可能實現無業務代碼侵入式的實現。我們上面說了本地事務消息表的基本理論,那麼如果要設計一個高可用的企業級本地事務消息表方案,就要考慮更多的事情,在性能上做更大的優化,降低更多的重複投遞率。以下是一個企業級事務消息的設計流程圖:
- 事務消息服務:提供通用投遞接口,用於保證事務消息的本地寫入,並將事務消息寫入事務內存隊列。
- 使用投遞線程池,繼續事務內存隊列投遞派發分配。投遞工作線程只投遞本實例擁有的事務消息,投遞失敗線程列入時間輪隊列;重試機制使用失敗擋位區分,默認提供6檔:5s、10s、15s、20s、25s、30s。
- 時間輪線程進行60秒轉動,將到期的失敗事務消息重入事務內存隊列.
- 因爲我們的事務消息服務是無狀態化的多實例存在,所以需要一個持鎖線程進行主節點競爭強鎖,處理一些額外的工作。
- 因爲我們的事務內存隊列是內存級,不可避免面臨重啓等情況下的數據丟失。這時需要事務消息服務主節點進行定期掃表,將長期未投遞的事務消息取出放入事務消息服務。
- 事務消息服務主節點還有一個清理線程,專門用於將已處理成功的歷史事務消息進行歸檔清理,降低DB的數據量。
- 總結 -
咱們上面介紹了MQ事務消息方案和DB本地消息表方案,這兩個方案有什麼區別呢?
- MQ事務消息方案
- 需要MQ支持半消息機制或者類似特性,在重複投遞上具有比較好的去重處理
- 需要業務方進行改造,提供對應的本地操作成功回查功能。具有比較大的業務侵入性。
- DB本地事務消息表方案
- 使用了數據庫來存儲事務消息,降低了對MQ的需求,但是增加了存儲成本。
- 事務消息使用了異步投遞,增大了消息重複投遞的可能性。
我們說了兩種事務消息的特性和優劣性,我們在總結下事務消息的共性。
- 事務消息都依賴MQ進行事務通知,所以都是異步的。
- 事務消息在投遞方都是存在重複投遞的可能,需要有配套的機制去降低重複投遞率,實現更友好的消息投遞去重。
- 事務消息的消費方,因爲投遞重複的無法避免,因此需要進行消費去重設計或者服務冪等設計。
- 作者介紹 -
孫玄
畢業於浙江大學,奈學教育創始人兼CEO,前轉轉公司技術委員會主席,前58集團技術委員會主席,前百度資深研發工程師,騰訊雲TVP,阿里雲MVP,在線直播大課《百萬架構師》品牌創始人。
林淮川
畢業於西安交通大學;奈學教育《百萬架構師訓練營》講師及企業級源碼內源負責人,前大樹金融高級架構師;前大樹金融技術委員會開創者;前大樹金融供應鏈金融技術總監;前天陽宏業交易事業部技術主管;多年互聯網金融行業(ToB)經驗。