百度舉辦第七屆技術開放日,揭祕春晚紅包技術支撐

4月4日,第七屆百度技術開放日活動在京舉辦,在這次開放日中,百度分享了在剛剛過去的春節紅包背後的技術支撐,百度高級副總裁、AI技術平臺體系(AIG)和基礎技術體系(TG)總負責人王海峯到場致辭。

王海峯表示,百度於2018年12月份進行的組織架構調整中,將打造技術中臺作爲戰略方向之一,打造技術中臺的行動由王海峯直接帶領,2019春晚紅包則是新成立的技術中臺的第一場大考。

百度副總裁、春晚紅包項目技術負責人侯振宇在分享中表示,春晚紅包是在世界範圍內都極爲少見的極端併發場景,比雙十一的流量更大更集中,在過去幾年裏,有幾個公司挑戰過這項活動,結果都遭遇了滑鐵盧。百度臨危受命,遭遇時間短、技術難、場景複雜、要求高四大挑戰,最終,在全公司各部門通力協作,並組織1000多人進行專項攻關,最終平穩度過。

百度春晚紅包具體的技術支撐包括:

全系統全鏈路的優化設計。這次春晚紅包項目架構設計中,採用的是以大化小、隔離,彈性、智能、動態、自愈,同時高效控制總成本的設計理念。

春晚紅包採用搖一搖、信息流、視頻、語音、搜索等多樣化參與形式。搖一搖紅包系統採用SET化方案,將業務和存儲層切割成多箇中大型分佈式系統。按用戶條帶化,形成多個單元化集羣,對業務優化適配,可防止故障擴散,形成更可控的完整異常預案。基於SET化和高性能存儲方案,實現同步實時讀寫,避免異步處理帶來的延遲和不一致問題。並結合日誌對帳,以保障安全性和用戶體驗。

Feed信息流推薦系統採用彈性架構設計,以便高效的支撐更高的瞬間併發流量挑戰。設置多級異常容忍能力,採用自適應,層級化自治架構;在資源固定,保穩定前提下,自動動態調整參數,給最好的推薦效果。

對於視頻紅包,採用開源的百度智能小程序方案,支持預加載,且採用多版本結合的形式,以靈活應對CDN巨大壓力,且對視頻全流程體驗進化優化。

對於語音模塊,專項定製高速模型+動態調度+GPU/FPGA硬件優化。對於搜索,利用用戶行爲的熱點特徵,採用多級Cache+漏斗控制,集羣狀態分級,以抵禦突增的併發壓力。

對登錄系統面臨瞬間海量用戶涌入的壓力,與百度雲、運營商共建短信和一鍵登錄的海量能力,包括互通登錄在內的多種登錄手段結合,多管齊下。採用自動感知、自動決策、自動恢復的自愈式的設計,以應對春晚極端併發和現場直播的壓力。

對於春晚紅包流量調度,由BFE(百度統一前端)提供支撐。BFE是百度早年研發的統一的七層流量轉發平臺。在春晚紅包項目中,BFE是IDC流量的統一入口,提供了流量調度、接入轉發、限流、應用層防火牆等能力。

對於數據庫,通過set化等關鍵技術方案達到對業務透明、且靈活擴展、故障最小化隔離能力;在流量管控上,基於流量畫像能力,結合安全檢測及攔截能力、多維度多層級流控能力,達到對整體服務的過載保護以及安全防護能力,能有效保障整體服務的可用性、數據的安全性,達到數據庫千萬級QPS處理能力;最後結合近百項的劇本及自動監控預案措施,進一步加固了春晚數據庫服務保障能力。

服務混部與彈性供給。春晚期間,億級別用戶同時啓動,上億的用戶同時與百度雲服務發起建連;相較於以往簡單的搖一搖,這次用戶同時訪問的業務覆蓋搜索、推薦、語音、視頻等複雜業務。兩週時間內要實現數萬服務器級別規模的資源快速籌備與使用方案制定。

技術方案上,重點通過百度雲集羣內部全混部,利用集羣流轉支持滿足春晚活動資源需求。混部調度意味着選擇合適資源,部署合適任務,並做好安全的隔離與服務保護機制。百度春晚活動服務混部調度採用BestEffort模式,彈性使用全百度雲的集羣資源。BE模式對原正常業務實現了無侵入使用,並滿足了春晚服務提前進場與快速便捷退場的需求,順利通過了活動的多輪壓測工作與最終的線上的效率與質量考驗。同時圍繞潛在問題場景,設計好秒級彈性伸縮的方案。

同時,百度CDN爲了應對春晚,3周內完成CDN近百個節點新建、新增數十T帶寬儲備,保障了這次歷史上最大的突發量;技術方面,在覈心的存儲分發架構上,基於高可靠存儲、鏈路加速、精準調度、高性能Cache等核心技術,中央調度系統通過實時計算的日誌監控流來進行全局流控,通過分級分業務的流控對峯值進行合理調度和控制,同時保障柔性降級的安全預案,實現了春晚高峯流量的平穩承載。

大規模工程能力保障。春晚紅包項目涉及數十個個產品和平臺,110+種場景,280+個預案,百餘團隊參與,上千人協同,平均每天新增需求和任務千餘個,自動化測試上萬次。春晚紅包項目能夠高質量交付,離不開百度長期積累的技術文化和工程能力、集團統一的工程標準和研發規範、可靠高效的開發工具和協作平臺。百度在內部沉澱併發布了《百度方法+白皮書》、《百度工程能力白皮書》。

另外,爲了春晚紅包保障,百度專門建立了臨時的春晚藍軍團隊,進行全要素全鏈路壓測,模擬真實用戶行爲,構造大於春晚極限併發的壓力洪峯,驗證從供電、網絡等基礎設施,到上層軟件架構的服務能力。

負責本次春晚總體架構設計的百度主任架構師吳永巍,將在5月6日的QCon北京站上分享《從高併發到極端併發:百度 Feed 與春晚紅包的高可用實踐》,歡迎關注。

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章