------------------
微信起初定位是一個通訊工具，作爲通訊工具最核心的功能是收發消息。微信團隊源於廣硏團隊，消息模型跟郵箱的郵件模型也很有淵源，都是存儲轉發。
圖 1 展示了這一消息模型，消息被髮出後，會先在後臺臨時存儲；爲使接收者能更快接收到消息，會推送消息通知給接收者；最後客戶端主動到服務器收取消息。
2、制定了數據同步協議
由於用戶的帳戶、聯繫人和消息等數據都在服務器存儲，如何將數據同步到客戶端就成了很關鍵的問題。爲簡化協議，我們決定通過一個統一的數據同步協議來同步用戶所有的基礎數據。
最初的方案是客戶端記錄一個本地數據的快照 (Snapshot)，需要同步數據時，將 Snapshot 帶到服務器，服務器通過計算 Snapshot 與服務器數據的差異，將差異數據發給客戶端，客戶端再保存差異數據完成同步。不過這個方案有兩個問題：一是 Snapshot 會隨着客戶端數據的增多變得越來越大，同步時流量開銷大；二是客戶端每次同步都要計算 Snapshot，會帶來額外的性能開銷和實現複雜度。
幾經討論後，方案改爲由服務計算 Snapshot，在客戶端同步數據時跟隨數據一起下發給客戶端，客戶端無需理解 Snapshot，只需存儲起來，在下次數據同步數據時帶上即可。同時，Snapshot 被設計得非常精簡，是若干個 Key-Value 的組合，Key 代表數據的類型，Value 代表給到客戶端的數據的最新版本號。Key 有三個，分別代表：帳戶數據、聯繫人和消息。這個同步協議的一個額外好處是客戶端同步完數據後，不需要額外的 ACK 協議來確認數據收取成功，同樣可以保證不會丟數據：只要客戶端拿最新的 Snapshot 到服務器做數據同步，服務器即可確認上次數據已經成功同步完成，可以執行後續操作，例如清除暫存在服務的消息等等。
此後，精簡方案、減少流量開銷、儘量由服務器完成較複雜的業務邏輯、降低客戶端實現的複雜度就作爲重要的指導原則，持續影響着後續的微信設計開發。記得有個比較經典的案例是：我們在微信 1.2 版實現了羣聊功能，但爲了保證新舊版客戶端間的羣聊體驗，我們通過服務器適配，讓 1.0 版客戶端也能參與羣聊。
3、定型了後臺架構
微信後臺使用三層架構：接入層、邏輯層和存儲層。
1、接入層提供接入服務，包括長連接入服務和短連接入服務。長連接入服務同時支持客戶端主動發起請求和服務器主動發起推送；短連接入服務則只支持客戶端主動發起請求。
2、邏輯層包括業務邏輯服務和基礎邏輯服務。業務邏輯服務封裝了業務邏輯，是後臺提供給微信客戶端調用的 API。基礎邏輯服務則抽象了更底層和通用的業務邏輯，提供給業務邏輯服務訪問。
3、存儲層包括數據訪問服務和數據存儲服務。數據存儲服務通過 MySQL 和 SDB (廣硏早期後臺中廣泛使用的 Key-Table 數據存儲系統) 等底層存儲系統來持久化用戶數據。數據訪問服務適配並路由數據訪問請求到不同的底層數據存儲服務，面向邏輯層提供結構化的數據服務。比較特別的是，微信後臺每一種不同類型的數據都使用單獨的數據訪問服務和數據存儲服務，例如帳戶、消息和聯繫人等等都是獨立的。
微信後臺主要使用 C++。後臺服務使用 Svrkit 框架搭建，服務之間通過同步 RPC 進行通訊。
Svrkit 是另一個廣硏後臺就已經存在的高性能 RPC 框架，當時尚未廣泛使用，但在微信後臺卻大放異彩。作爲微信後臺基礎設施中最重要的一部分，Svrkit 這幾年一直不斷在進化。我們使用 Svrkit 構建了數以千計的服務模塊，提供數萬個服務接口，每天 RPC 調用次數達幾十萬億次。
這三件事影響深遠，乃至於 5年 後的今天，我們仍繼續沿用最初的架構和協議，甚至還可以支持當初 1.0 版的微信客戶端。
這裏有一個經驗教訓——運營支撐系統真的很重要。第一個版本的微信後臺是倉促完成的，當時只是完成了基礎業務功能，並沒有配套的業務數據統計等等。我們在開放註冊後，一時間竟沒有業務監控頁面和數據曲線可以看，註冊用戶數是臨時從數據庫統計的，在線數是從日誌裏提取出來的，這些數據通過每個小時運行一次的腳本（這個腳本也是當天臨時加的）統計出來，然後自動發郵件到郵件組。還有其他各種業務數據也通過郵件進行發佈，可以說郵件是微信初期最重要的數據門戶。
2011.1.21 當天最高併發在線數是 491，而今天這個數字是 4 億。
小步慢跑
在微信發佈後的 4 個多月裏，我們經歷了發佈後火爆註冊的驚喜，也經歷了隨後一直不溫不火的困惑。
這一時期，微信做了很多旨在增加用戶好友量，讓用戶聊得起來的功能。打通騰訊微博私信、羣聊、工作郵箱、QQ/ 郵箱好友推薦等等。對於後臺而言，比較重要的變化就是這些功能催生了對異步隊列的需求。例如，微博私信需要跟外部門對接，不同系統間的處理耗時和速度不一樣，可以通過隊列進行緩衝；羣聊是耗時操作，消息發到羣后，可以通過異步隊列來異步完成消息的擴散寫等等。
圖 4 是異步隊列在羣聊中的應用。微信的羣聊是寫擴散的，也就是說發到羣裏的一條消息會給羣裏的每個人都存一份（消息索引）。爲什麼不是讀擴散呢？有兩個原因：
1、羣的人數不多，羣人數上限是 10（後來逐步加到 20、40、100，目前是 500），擴散的成本不是太大，不像微博，有成千上萬的粉絲，發一條微博後，每粉絲都存一份的話，一個是效率太低，另一個存儲量也會大很多；
2、消息擴散寫到每個人的消息存儲（消息收件箱）後，接收者到後臺同步數據時，只需要檢查自己收件箱即可，同步邏輯跟單聊消息是一致的，這樣可以統一數據同步流程，實現起來也會很輕量。
異步隊列作爲後臺數據交互的一種重要模式，成爲了同步 RPC 服務調用之外的有力補充，在微信後臺被大量使用。
快速成長
微信的飛速發展是從 2.0 版開始的，這個版本發佈了語音聊天功能。之後微信用戶量急速增長，2011.5 用戶量破 100 萬、2011.7 用戶量破 1000 萬、2012.3 註冊用戶數突破 1 億。伴隨着喜人成績而來的，還有一堆幸福的煩惱：
- 業務快速迭代的壓力
- 微信發佈時功能很簡單，主要功能就是發消息。不過在發語音之後的幾個版本里迅速推出了手機通訊錄、QQ 離線消息、查看附近的人、搖一搖、漂流瓶和朋友圈等等功能。
- 有個廣爲流傳的關於朋友圈開發的傳奇——朋友圈歷經 4 個月，前後做了 30 多個版本迭代才最終成型。其實還有一個鮮爲人知的故事——那時候因爲人員比較短缺，朋友圈後臺長時間只有 1 位開發人員。
後臺穩定性的要求：用戶多了，功能也多了，後臺模塊數和機器量在不斷翻番，緊跟着的還有各種故障。
幫助我們順利度過這個階段的，是以下幾個舉措：
1、極簡設計
雖然各種需求撲面而來，但我們每個實現方案都是一絲不苟完成的。實現需求最大的困難不是設計出一個方案並實現出來，而是需要在若干個可能的方案中，甄選出最簡單實用的那個。這中間往往需要經過幾輪思考——討論——推翻的迭代過程，謀定而後動有不少好處，一方面可以避免做出華而不實的過度設計，提升效率；另一方面，通過詳盡的討論出來的看似簡單的方案，細節考究，往往是可靠性最好的方案。
2、大系統小做
邏輯層的業務邏輯服務最早只有一個服務模塊（我們稱之爲 mmweb），囊括了所有提供給客戶端訪問的 API，甚至還有一個完整的微信官網。這個模塊架構類似 Apache，由一個 CGI 容器（CGIHost）和若干 CGI 組成（每個 CGI 即爲一個 API），不同之處在於每個 CGI 都是一個動態庫 so，由 CGIHost 動態加載。
在 mmweb 的 CGI 數量相對較少的時候，這個模塊的架構完全能滿足要求，但當功能迭代加快，CGI 量不斷增多之後，開始出現問題：
- 每個 CGI 都是動態庫，在某些 CGI 的共用邏輯的接口定義發生變化時，不同時期更新上線的 CGI 可能使用了不同版本的邏輯接口定義，會導致在運行時出現詭異結果或者進程 crash，而且非常難以定位；
- 所有 CGI 放在一起，每次大版本發佈上線，從測試到灰度再到全面部署完畢，都是一個很漫長的過程，幾乎所有後臺開發人員都會被同時卡在這個環節，非常影響效率；
- 新增的不太重要的 CGI 有時穩定性不好，某些異常分支下會 crash，導致 CGIHost 進程無法服務，發消息這些重要 CGI 受影響沒法運行。
於是我們開始嘗試使用一種新的 CGI 架構——Logicsvr。
Logicsvr 基於 Svrkit 框架。將 Svrkit 框架和 CGI 邏輯通過靜態編譯生成可直接使用 HTTP 訪問的 Logicsvr。我們將 mmweb 模塊拆分爲 8 個不同服務模塊。拆分原則是：實現不同業務功能的 CGI 被拆到不同 Logicsvr，同一功能但是重要程度不一樣的也進行拆分。例如，作爲核心功能的消息收發邏輯，就被拆爲 3 個服務模塊：消息同步、發文本和語音消息、發圖片和視頻消息。
每個 Logicsvr 都是一個獨立的二進制程序，可以分開部署、獨立上線。時至今日，微信後臺有數十個 Logicsvr，提供了數百個 CGI 服務，部署在數千臺服務器上，每日客戶端訪問量幾千億次。
除了 API 服務外，其他後臺服務模塊也遵循 “大系統小做” 這一實踐準則，微信後臺服務模塊數從微信發佈時的約 10 個模塊，迅速上漲到數百個模塊。
3、業務監控
這一時期，後臺故障很多。比故障更麻煩的是，因爲監控的缺失，經常有些故障我們沒法第一時間發現，造成故障影響面被放大。
監控的缺失一方面是因爲在快速迭代過程中，重視功能開發，輕視了業務監控的重要性，有故障一直是兵來將擋水來土掩；另一方面是基礎設施對業務邏輯監控的支持度較弱。基礎設施提供了機器資源監控和 Svrkit 服務運行狀態的監控。這個是每臺機器、每個服務標配的，無需額外開發，但是業務邏輯的監控就要麻煩得多了。當時的業務邏輯監控是通過業務邏輯統計功能來做的，實現一個監控需要 4 步：
- 申請日誌上報資源；
- 在業務邏輯中加入日誌上報點，日誌會被每臺機器上的 agent 收集並上傳到統計中心；
- 開發統計代碼；
- 實現統計監控頁面。
可以想象，這種費時費力的模式會反過來降低開發人員對加入業務監控的積極性。於是有一天，我們去公司內的標杆——即通後臺（QQ 後臺）取經了，發現解決方案出乎意料地簡單且強大：
1) 故障報告
之前每次故障後，是由 QA 牽頭出一份故障報告，着重點是對故障影響的評估和故障定級。新的做法是每個故障不分大小，開發人員需要徹底覆盤故障過程，然後商定解決方案，補充出一份詳細的技術報告。這份報告側重於：如何避免同類型故障再次發生、提高故障主動發現能力、縮短故障響應和處理過程。
2) 基於 ID-Value 的業務無關的監控告警體系
監控體系實現思路非常簡單，提供了 2 個 API，允許業務代碼在共享內存中對某個監控 ID 進行設置 Value 或累加 Value 的功能。每臺機器上的 Agent 會定時將所有 ID-Value 上報到監控中心，監控中心對數據彙總入庫後就可以通過統一的監控頁面輸出監控曲線，並通過預先配置的監控規則產生報警。
對於業務代碼來說，只需在要被監控的業務流程中調用一下監控 API，並配置好告警條件即可。這就極大地降低了開發監控報警的成本，我們補全了各種監控項，讓我們能主動及時地發現問題。新開發的功能也會預先加入相關監控項，以便在少量灰度階段就能直接通過監控曲線瞭解業務是否符合預期。
4、KVSvr
微信後臺每個存儲服務都有自己獨立的存儲模塊，是相互獨立的。每個存儲服務都有一個業務訪問模塊和一個底層存儲模塊組成。業務訪問層隔離業務邏輯層和底層存儲，提供基於 RPC 的數據訪問接口；底層存儲有兩類：SDB 和 MySQL。
SDB 適用於以用戶 UIN (uint32_t) 爲 Key 的數據存儲，比方說消息索引和聯繫人。優點是性能高，在可靠性上，提供基於異步流水同步的 Master-Slave 模式，Master 故障時，Slave 可以提供讀數據服務，無法寫入新數據。
由於微信賬號爲字母 + 數字組合，無法直接作爲 SDB 的 Key，所以微信帳號數據並非使用 SDB，而是用 MySQL 存儲的。MySQL 也使用基於異步流水複製的 Master-Slave 模式。
- 第 1 版的帳號存儲服務使用 Master-Slave 各 1 臺。Master 提供讀寫功能，Slave 不提供服務，僅用於備份。當 Master 有故障時，人工切讀服務到 Slave，無法提供寫服務。爲提升訪問效率，我們還在業務訪問模塊中加入了 memcached 提供 Cache 服務，減少對底層存儲訪問。
- 第 2 版的帳號存儲服務還是 Master-Slave 各 1 臺，區別是 Slave 可以提供讀服務，但有可能讀到髒數據，因此對一致性要求高的業務邏輯，例如註冊和登錄邏輯只允許訪問 Master。當 Master 有故障時，同樣只能提供讀服務，無法提供寫服務。
- 第 3 版的帳號存儲服務採用 1 個 Master 和多個 Slave，解決了讀服務的水平擴展能力。
- 第 4 版的帳號服務底層存儲採用多個 Master-Slave 組，每組由 1 個 Master 和多個 Slave 組成，解決了寫服務能力不足時的水平擴展能力。
最後還有個未解決的問題：單個 Master-Slave 分組中，Master 還是單點，無法提供實時的寫容災，也就意味着無法消除單點故障。另外 Master-Slave 的流水同步延時對讀服務有很大影響，流水出現較大延時會導致業務故障。於是我們尋求一個可以提供高性能、具備讀寫水平擴展、沒有單點故障、可同時具備讀寫容災能力、能提供強一致性保證的底層存儲解決方案，最終 KVSvr 應運而生。
KVSvr 使用基於 Quorum 的分佈式數據強一致性算法，提供 Key-Value/Key-Table 模型的存儲服務。傳統 Quorum 算法的性能不高，KVSvr 創造性地將數據的版本和數據本身做了區分，將 Quorum 算法應用到數據的版本的協商，再通過基於流水同步的異步數據複製提供了數據強一致性保證和極高的數據寫入性能，另外 KVSvr 天然具備數據的 Cache 能力，可以提供高效的讀取性能。
KVSvr 一舉解決了我們當時迫切需要的無單點故障的容災能力。除了第 5 版的帳號服務外，很快所有 SDB 底層存儲模塊和大部分 MySQL 底層存儲模塊都切換到 KVSvr。隨着業務的發展，KVSvr 也不斷在進化着，還配合業務需要衍生出了各種定製版本。現在的 KVSvr 仍然作爲核心存儲，發揮着舉足輕重的作用。
平臺化
2011.8 深圳舉行大運會。微信推出 “微信深圳大運志願者服務中心” 服務號，微信用戶可以搜索 “szdy” 將這個服務號加爲好友，獲取大會相關的資訊。當時後臺對 “szdy” 做了特殊處理，用戶搜索時，會隨機返回 “szdy01”，“szdy02”…，“szdy10” 這 10 個微信號中的 1 個，每個微信號背後都有一個志願者在服務。2011.9 “微成都” 落戶微信平臺，微信用戶可以搜索 “wechengdu” 加好友，成都市民還可以在 “附近的人” 看到這個號，我們在後臺給這個帳號做了一些特殊邏輯，可以支持後臺自動回覆用戶發的消息。
這種需求越來越多，我們就開始做一個媒體平臺，這個平臺後來從微信後臺分出，演變成了微信公衆平臺，獨立發展壯大，開始了微信的平臺化之路。除微信公衆平臺外，微信後臺的外圍還陸續出現了微信支付平臺、硬件平臺等等一系列平臺。
走出國門
微信走出國門的嘗試開始於 3.0 版本。從這個版本開始，微信逐步支持繁體、英文等多種語言文字。不過，真正標誌性的事情是第一個海外數據中心的投入使用。
1、海外數據中心
海外數據中心的定位是一個自治的系統，也就是說具備完整的功能，能夠不依賴於國內數據中心獨立運作。
1) 多數據中心架構
系統自治對於無狀態的接入層和邏輯層來說很簡單，所有服務模塊在海外數據中心部署一套就行了。
但是存儲層就有很大麻煩了——我們需要確保國內數據中心和海外數據中心能獨立運作，但不是兩套隔離的系統各自部署，各玩各的，而是一套業務功能可以完全互通的系統。因此我們的任務是需要保證兩個數據中心的數據一致性，另外 Master-Master 架構是個必選項，也即兩個數據中心都需要可寫。
2) Master-Master 存儲架構
Master-Master 架構下數據的一致性是個很大的問題。兩個數據中心之間是個高延時的網絡，意味着在數據中心之間直接使用 Paxos 算法、或直接部署基於 Quorum 的 KVSvr 等看似一勞永逸的方案不適用。
最終我們選擇了跟 Yahoo! 的 PNUTS 系統類似的解決方案，需要對用戶集合進行切分，國內用戶以國內上海數據中心爲 Master，所有數據寫操作必須回到國內數據中心完成；海外用戶以海外數據中心爲 Master，寫操作只能在海外數據中心進行。從整體存儲上看，這是一個 Master-Master 的架構，但細到一個具體用戶的數據，則是 Master-Slave 模式，每條數據只能在用戶歸屬的數據中心可寫，再異步複製到其他數據中心。
3) 數據中心間的數據一致性
這個 Master-Master 架構可以在不同數據中心間實現數據最終一致性。如何保證業務邏輯在這種數據弱一致性保證下不會出現問題？
這個問題可以被分解爲 2 個子問題：
- 用戶訪問自己的數據：
用戶可以滿世界跑，那是否允許用戶就近接入數據中心就對業務處理流程有很大影響。如果允許就近接入，同時還要保證數據一致性不影響業務，就意味着要麼用戶數據的 Master 需要可以動態的改變；要麼需要對所有業務邏輯進行仔細梳理，嚴格區分本數據中心和跨數據中心用戶的請求，將請求路由到正確的數據中心處理。
考慮到上述問題會帶來很高昂的實現和維護的複雜度，我們限制了每個用戶只能接入其歸屬數據中心進行操作。如果用戶發生漫遊，其漫遊到的數據中心會自動引導用戶重新連回歸屬數據中心。
這樣用戶訪問自己數據的一致性問題就迎刃而解了，因爲所有操作被限制在歸屬數據中心內，其數據是有強一致性保證的。此外，還有額外的好處：用戶自己的數據（如：消息和聯繫人等）不需要在數據中心間同步，這就大大降低了對數據同步的帶寬需求。
- 用戶訪問其他用戶的數據：
由於不同數據中心之間業務需要互通，用戶會使用到其他數據中心用戶創建的數據。例如，參與其他數據中心用戶創建的羣聊，查看其他數據中心用戶的朋友圈等。
仔細分析後可以發現，大部分場景下對數據一致性要求其實並不高。用戶稍遲些才見到自己被加入某個其他數據中心用戶建的羣、稍遲些才見到某個好友的朋友圈動態更新其實並不會帶來什麼問題。在這些場景下，業務邏輯直接訪問本數據中心的數據。
當然，還是有些場景對數據一致性要求很高。比方說給自己設置微信號，而微信號是需要在整個微信帳號體系裏保證唯一的。我們提供了全局唯一的微信號申請服務來解決這一問題，所有數據中心通過這個服務申請微信號。這種需要特殊處置的場景極少，不會帶來太大問題。
4) 可靠的數據同步
數據中心之間有大量的數據同步，數據是否能夠達到最終一致，取決於數據同步是否可靠。爲保證數據同步的可靠性，提升同步的可用性，我們又開發一個基於 Quorum 算法的隊列組件，這個組件的每一組由 3 機存儲服務組成。與一般隊列的不同之處在於，這個組件對隊列寫入操作進行了大幅簡化，3 機存儲服務不需要相互通訊，每個機器上的數據都是順序寫，執行寫操作時在 3 機能寫入成功 2 份即爲寫入成功；若失敗，則換另外一組再試。因此這個隊列可以達到極高的可用性和寫入性能。每個數據中心將需要同步的數據寫入本數據中心的同步隊列後，由其他數據中心的數據重放服務將數據拉走並進行重放，達到數據同步的目的。
2、網絡加速
海外數據中心建設週期長，投入大，微信只在香港和加拿大有兩個海外數據中心。但世界那麼大，即便是這兩個數據中心，也還是沒法輻射全球，讓各個角落的用戶都能享受到暢快的服務體驗。
通過在海外實際對比測試發現，微信客戶端在發消息等一些主要使用場景與主要競品有不小的差距。爲此，我們跟公司的架構平臺部、網絡平臺部和國際業務部等兄弟部門一起合作，圍繞海外數據中心，在世界各地精心選址建設了數十個 POP 點（包括信令加速點和圖片 CDN 網絡）。另外，通過對移動網絡的深入分析和研究，我們還對微信的通訊協議做了大幅優化。微信最終在對比測試中趕上並超過了主要的競品。
精耕細作
1、三園區容災
2013.7.22 微信發生了有史以來最大規模的故障，消息收發和朋友圈等服務出現長達 5 個小時的故障，故障期間消息量跌了一半。故障的起因是上海數據中心一個園區的主光纖被挖斷，近 2 千臺服務器不可用，引發整個上海數據中心（當時國內只有這一個數據中心）的服務癱瘓。
故障時，我們曾嘗試把接入到故障園區的用戶切走，但收效甚微。雖然數百個在線模塊都做了容災和冗餘設計，單個服務模塊看起來沒有單點故障問題；但整體上看，無數個服務實例散佈在數據中心各個機房的 8 千多臺服務器內，各服務 RPC 調用複雜，呈網狀結構，再加上缺乏系統級的規劃和容災驗證，最終導致故障無法主動恢復。在此之前，我們知道單個服務出現單機故障不影響系統，但沒人知道 2 千臺服務器同時不可用時，整個系統會出現什麼不可控的狀況。
其實在這個故障發生之前 3 個月，我們已經在着手解決這個問題。當時上海數據中心內網交換機異常，導致微信出現一個出乎意料的故障，在 13 分鐘的時間裏，微信消息收發幾乎完全不可用。在對故障進行分析時，我們發現一個消息系統裏一個核心模塊三個互備的服務實例都部署在同一機房。該機房的交換機故障導致這個服務整體不可用，進而消息跌零。這個服務模塊是最早期（那個時候微信後臺規模小，大部分後臺服務都部署在一個數據園區裏）的核心模塊，服務基於 3 機冗餘設計，年復一年可靠地運行着，以至於大家都完全忽視了這個問題。
爲解決類似問題，三園區容災應運而生，目標是將上海數據中心的服務均勻部署到 3 個物理上隔離的數據園區，在任意單一園區整體故障時，微信仍能提供無損服務。
1) 同時服務
傳統的數據中心級災備方案是 “兩地三中心”，即同城有兩個互備的數據中心，異地再建設一個災備中心，這三個數據中心平時很可能只有一個在提供在線服務，故障時再將業務流量切換到其他數據中心。這裏的主要問題是災備數據中心無實際業務流量，在主數據中心故障時未必能正常切換到災備中心，並且在平時大量的備份資源不提供服務，也會造成大量的資源浪費。
三園區容災的核心是三個數據園區同時提供服務，因此即便某個園區整體故障，那另外兩個園區的業務流量也只會各增加 50%。反過來說，只需讓每個園區的服務器資源跑在容量上限的 2/3，保留 1/3 的容量即可提供無損的容災能力，而傳統 “兩地三中心” 則有多得多的服務器資源被閒置。此外，在平時三個園區同時對外服務，因此我們在故障時，需要解決的問題是 “怎樣把業務流量切到其他數據園區？”，而不是 “能不能把業務流量切到其他數據園區？”，前者顯然是更容易解決的一個問題。
2) 數據強一致
三園區容災的關鍵是存儲模塊需要把數據均勻分佈在 3 個數據園區，同一份數據要在不同園區有 2 個以上的一致的副本，這樣才能保證任意單一園區出災後，可以不中斷地提供無損服務。由於後臺大部分存儲模塊都使用 KVSvr，這樣解決方案也相對簡單高效——將 KVSvr 的每 1 組機器都均勻部署在 3 個園區裏。
3) 故障時自動切換
三園區容災的另一個難點是對故障服務的自動屏蔽和自動切換。即要讓業務邏輯服務模塊能準確識別出某些下游服務實例已經無法訪問，然後迅速自動切到其他服務實例，避免被拖死。我們希望每個業務邏輯服務可以在不借助外部輔助信息（如建設中心節點，由中心節點下發各個業務邏輯服務的健康狀態）的情況下，能自行決策迅速屏蔽掉有問題的服務實例，自動把業務流量分散切到其他服務實例上。另外，我們還建設了一套手工操作的全局屏蔽系統，可以在大型網絡故障時，由人工介入屏蔽掉某個園區所有的機器，迅速將業務流量分散到其他兩個數據園區。
4) 容災效果檢驗
三園區容災是否能正常發揮作用還需要進行實際的檢驗，我們在上海數據中心和海外的香港數據中心完成三園區建設後，進行了數次實戰演習，屏蔽單一園區上千臺服務，檢驗容災效果是否符合預期。特別地，爲了避免隨着時間的推移某個核心服務模塊因爲某次更新就不再支持三園區容災了，我們還搭建了一套容災撥測系統，每天對所有服務模塊選取某個園區的服務主動屏蔽掉，自動檢查服務整體失敗量是否發生變化，實現對三園區容災效果的持續檢驗。
2、性能優化
之前我們在業務迅速發展之時，優先支撐業務功能快速迭代，性能問題無暇兼顧，比較粗放的貫徹了 “先扛住再優化” 的海量之道。2014年 開始大幅縮減運營成本，性能優化就被提上了日程。我們基本上對大部分服務模塊的設計和實現都進行了重新 review，並進行了有針對性的優化，這還是可以節約出不少機器資源的。但更有效的優化措施是對基礎設施的優化，具體的說是對 Svrkit 框架的優化。Svrkit 框架被廣泛應用到幾乎所有服務模塊，如果框架層面能把機器資源使用到極致，那肯定是事半功倍的。
結果還真的可以，我們在基礎設施里加入了對協程的支持，重點是這個協程組件可以不破壞原來的業務邏輯代碼結構，讓我們原有代碼中使用同步 RPC 調用的代碼不做任何修改，就可以直接通過協程異步化。Svrkit 框架直接集成了這個協程組件，然後美好的事情發生了，原來單實例最多提供上百併發請求處理能力的服務，在重編上線後，轉眼間就能提供上千併發請求處理能力。Svrkit 框架的底層實現在這一時期也做了全新的實現，服務的處理能力大幅提高。
3、防雪崩
我們一直以來都不太擔心某個服務實例出現故障，導致這個實例完全無法提供服務的問題，這個在後臺服務的容災體系裏可以被處理得很好。最擔心的是雪崩：某個服務因爲某些原因出現過載，導致請求處理時間被大大拉長。於是服務吞吐量下降，大量請求積壓在服務的請求隊列太長時間了，導致訪問這個服務的上游服務出現超時。更倒黴的是上游服務還經常會重試，然後這個過載的服務僅有的一點處理能力都在做無用功（即處理完畢返回結果時，調用端都已超時放棄），終於這個過載的服務徹底雪崩了。最糟糕的情況是上游服務每個請求都耗時那麼久，雪崩順着 RPC 調用鏈一級級往上傳播，最終單個服務模塊的過載會引發大批服務模塊的雪崩。
我們在一番勒緊褲腰帶節省機器資源、消滅低負載機器後，所有機器的負載都上來了，服務過載變得經常發生了。解決這一問題的有力武器是 Svrkit 框架裏的具有 QoS 保障的 FastReject 機制，可以快速拒絕掉超過服務自身處理能力的請求，即使在過載時，也能穩定地提供有效輸出。
4、安全加固
近年，互聯網安全事件時有發生，各種拖庫層出不窮。爲保護用戶的隱私數據，我們建設了一套數據保護系統——全程票據系統。其核心方案是，用戶登錄後，後臺會下發一個票據給客戶端，客戶端每次請求帶上票據，請求在後臺服務的整個處理鏈條中，所有對核心數據服務的訪問，都會被校驗票據是否合法，非法請求會被拒絕，從而保障用戶隱私數據只能用戶通過自己的客戶端發起操作來訪問。
新的挑戰
1、資源調度系統
微信後臺有成千的服務模塊，部署在全球數以萬計的服務器上，一直依靠人工管理。此外，微信後臺主要是提供實時在線服務，每天的服務器資源佔用在業務高峯和低谷時相差很大，在業務低谷時計算資源被白白浪費；另一方面，很多離線的大數據計算卻受制於計算資源不足，難以高效完成。我們正在實驗和部署的資源調度系統（Yard）可以把機器資源的分配和服務的部署自動化、把離線任務的調度自動化，實現了資源的優化配置，在業務對服務資源的需求有變化時，能更及時、更彈性地自動實現服務的重新配置與部署。
2、高可用存儲
基於 Quorum 算法的 KVSvr 已經實現了強一致性、高可用且高性能的 Key-Value/Key-Table 存儲。最近，微信後臺又誕生了基於 Paxos 算法的另一套存儲系統，首先落地的是 PhxSQL，一個支持完整 MySQL 功能，又同時具備強一致性、高可用和高性能的 SQL 存儲。