雲棲號案例庫：【點擊查看更多上雲案例】
不知道怎麼上雲？看雲棲號案例庫，瞭解不同行業不同發展階段的上雲方案，助力你上雲決策！
案例背景
疫情的肆虐，原本該回歸各大校園的師生們涌入線上，突如其來的流量洪峯給在線教育行業帶來了極大挑戰。長期服務教育企業的百家雲也不例外。作爲一家致力於爲教育機構提供一站式雲課堂解決方案的企業，疫情期間，百家雲接到來自多家教育機構搭建在線雲課堂的需求。同時，原來以線下爲主的教育機構，流量瞬間轉到了線上。爲了響應教育部門停課不停學的號召，幫助學生老師們開學，百家雲全體員工縮短了假期，從大年初二開始在家辦公，初七開始全員辦公。
短時間內爆發式的需求，對於每一家教育企業而都是始料未及的。據百家雲CEO李鋼江透露，百家雲的業務量短時間內增長了數十倍。如此迅速的擴容需要，還要在客戶無感知的情況下完成，比交付一個新系統難度更大。不幸中的萬幸是，百家雲團隊對敏捷架構的探索讓他們在如此高併發場景上早有準備。這場戰役之前，百家雲已在阿里雲團隊的幫助下，優化自身容器集羣架構與規劃，通過以阿里雲容器服務ACK、彈性裸金屬（神龍）實例的核心方案，從容實現動態擴容與高效管控。
百家雲容器化改造歷程
百家雲非常幸運，在這輪爆發之前完成了容器化改造。其他沒有使用容器的在線教育企業，面對暴漲的用戶，只能成倍堆積機器，導致部署時間拉長，業務成本劇烈升高。
百家雲容器化改造歷程：
- 視頻直播階段
百家雲從2017年誕生之初就是在做直播大班課產品，是行業內擁有最純正的教育基因的雲視頻公司。在2018年已經實現了過億營收，服務了超過1000多家教育企業。
- 小班課產品推動容器化改造
業務高速增長也在促使百家雲技術團隊探索自身技術架構的優化。到了2019年，百家雲逐步推出小班課產品，該產品的處理方式與大班課不同，需要通過音視頻抓屏的方式，將課程錄製下來回放。此過程中，還需要將音頻與視頻進行隔離。用虛擬機級別的隔離成本太高；若跑在統一虛擬機裏，各個進程則會互相干擾。百家雲團隊於是關注到了容器這種更爲輕量級的虛擬化技術。
在2019年上半年，百家雲內部就開始嘗試小規模對業務進行容器化改造，完成了基本流程的跑通。
- 開始注重容器調度與管理
隨着百家雲容器規模的擴大，調度與管理成爲了新的問題。阿里雲的容器管理平臺（ACK， Alibaba Cloud Container Service for Kubernetes），大大減少百家雲的工作。百家的技術團隊表示，容器減少了運維和測試的工作量；方便了對應用運行環境實現版本控制；且相比虛擬機有着更小計算開銷，降低了IT成本。彼時基於容器的雲原生大潮已然席捲，基於容器技術的雲原生架構，爲百家雲可能出現的業務峯值做了敏捷彈性的技術儲備。
隨着容器規模的擴大，百家雲的業務穩定性也在逐漸增長，但是疫情期間瞬間來臨的洪峯，還是給百家雲帶來了考驗。
彈性擴容升級方案
潮水襲來，百家雲的問題很直接：擴容。藉助阿里雲“容器+神龍”，三天內實現了數十倍擴容。
疫情是全國共同的敵人。業務持續穩定增長的百家雲，未曾料想到新禧之年將面臨這樣一場“戰役”，原來容器集羣的許多配置沒有按大規模集羣去規劃，導致單個集羣可容納的節點受限，原來使用的小規格實例也限制了單個節點的容量。針對百家雲的擴容問題，阿里雲團隊建議百家雲選用大規格的彈性裸金屬服務器（神龍）。根據百家雲的應用負載特點，結合容器服務管控合適規格的彈性裸金屬實例來優化成本、避免浪費，提升彈性供給保障。
- 阿里雲彈性裸金屬服務器（神龍）服務器的規格較高，可以幫助百家雲顯著提升單個節點的容量
更重要的是，百家雲的K8S集羣對性能要求極高。神龍服務器的性能優勢明顯， “容器+彈性裸金屬（神龍）”的解決方案非常契合百家雲大流量、高併發的場景。基於容器化構建方式，可以滿足業務快速發放和彈性的要求。神龍服務器完全消除了虛擬化損耗，提升了8%的計算性能，其類物理機特性，可進行二次虛擬化。
- 神龍的性能，加上容器的彈性，形成了天作之合
數據顯示，容器運行在雲上神龍反而比非雲物理機的性能要好10%-15%。主要是因爲虛擬化開銷已經offload到MOC卡上，神龍的CPU/Mem是無虛擬化開銷的，而上雲後運行在神龍上的每個容器都獨享ENI彈性網卡，能提升13%的網絡吞吐量。
- 神龍服務器的存儲帶寬和計算帶寬分離，能滿足百家雲業務場景的大量讀寫需求
使用神龍服務器之後，計算能力大增，但是同時也遇到了存儲I/O性能瓶頸的問題。百家雲通過使用阿里雲的高性能NAS服務，並通過水平擴展爲4個集羣，解決了I/O的瓶頸。
基於以上方案，藉助自身的大規模集羣管理能力，在短短几天之內，阿里雲團隊幫助百家雲團隊有效升級了原有的架構方案，實現了數十倍的擴容，大幅提升了其性能與穩定性，並擁有了應對爆發性規模的能力。
業務架構升級與集羣規劃方案
面對突增流量壓力，如何迅速動態彈性擴容以及高效管控運維成爲迫切問題。針對這些問題，百家雲優化後的架構如下：
- 彈性擴容：
1.改變原來虛擬化嵌套的形式，百家雲利用神龍實現了容器的高密度部署。配合容器的敏捷管理能力，起碼節省了25%的成本，降低了80%的運維工作量。
2.合理規劃K8S集羣，優化整體架構如網絡、存儲方案、擴容原則，確保後續運維的穩定性並降低使用成本。
- 運維管理：
百家雲還使用了阿里雲高效運維管理的工具，顯著降低了運維工作量。
1.運維監控：
由於百家雲業務上容器的時間非常緊迫，根本沒有多少時間可以花在運維監控上。通過使用ARMS Prometheus，僅僅半小時百家雲就實現了容器節點環境的監控。相比開源 Prometheus 監控，ARMS Prometheus的數據量無上限且與阿里雲容器服務ACK無縫對接，讓百家雲在容器裏高效快速定位問題，瞭解如何改善自己的產品。
2.異常信息告警：
阿里雲容器平臺的日誌服務（SLS）裏中小應用事件中心，詳細展示了集羣的狀態變更和組件異常等事件，幫助百家雲把節點裏面日誌的異常信息彙總到控制面板，及時告警。
上雲價值
百家雲CEO李鋼江總結，阿里雲帶給百家雲的價值主要是以下三點：
- 提供了彈性計算的空間與敏捷安全的擴容能力
阿里雲對應用鏡像進行了鏡像預熱等手段，在擴容時可第一時間拉起容器。基於容器鏡像服務ACR 安全託管大規模容器鏡像資產，通過細粒度的鏡像授權管控，安全快速地對應用鏡像進行全生命週期管理。
- 提供了相對穩定的服務與優異性能
基於阿里雲自研的神龍軟硬一體架構，彈性裸金屬服務器（神龍）有着物理機的性能和虛擬機的使用體驗。通過利用神龍，百家雲實現更好地調度K8S集羣，加上高性能NAS服務，解決了I/O瓶頸問題。
- 技術支持團隊響應及時，幫助百家雲優化架構
百家雲之所以後來面臨擴容問題，部分源於其原來業務架構規劃未做好管理大規模集羣的準備，阿里雲幫助了百家雲在短時間內優化了業務架構，優化集羣的管理能力。阿里雲作爲全國第一、世界頂尖的雲服務商，在IaaS和PaaS層能力強大；百家雲在教育SaaS層的積累，可以與阿里雲互補，一同以完整的在線教育方案去覆蓋市場。雙方正在逐步深化合作，百家雲將很快上線阿里云云市場——阿里雲SaaS加速器的商業平臺，即“軟件天貓”，後續用戶可直接在雲市場選購百家雲的服務。
相關產品
- 容器服務 ACK
容器服務 Kubernetes 版（簡稱 ACK）提供高性能可伸縮的容器應用管理能力，支持企業級容器化應用的全生命週期管理。整合阿里雲虛擬化、存儲、網絡和安全能力，打造雲端最佳容器化應用運行環境。
更多關於容器服務 ACK的介紹，參見容器服務 ACK產品詳情頁。
- 彈性裸金屬服務器（神龍）
彈性裸金屬服務器（ECS Bare Metal Instance）是一種可彈性伸縮的高性能計算服務，計算性能與傳統物理機無差別，具有安全物理隔離的特點，分鐘級的交付週期將提供給您實時的業務響應能力，助力您的核心業務飛速成長。
更掛關於彈性裸金屬服務器的介紹，參見彈性裸金屬服務器詳情頁。
- 應用實時監控服務 ARMS
應用實時監控服務 （Application Real-Time Monitoring Service，簡稱ARMS）是一款應用性能管理產品，包含前端監控，應用監控和Prometheus監控三大子產品，涵蓋了瀏覽器、小程序、APP、分佈式應用和容器環境等性能管理，能幫助您實現全棧式的性能監控和端到端的全鏈路追蹤診斷， 讓應用運維從未如此輕鬆高效。
更多關於應用實時監控服務 ARMS的介紹，參見應用實時監控服務 ARMS產品詳情頁。
- 日誌服務 SLS
行業領先的日誌大數據解決方案，一站式提供數據收集、清洗、分析、可視化和告警功能。全面提升海量日誌處理能力，實時挖掘數據價值，智能助力研發/運維/運營/安全等場景。
更多關於日誌服務的介紹，參見日誌服務產品詳情頁。
【雲棲號在線課堂】每天都有產品技術專家分享！
在線課堂地址：https://yqh.aliyun.com/zhibo立即加入社羣，與專家面對面，及時瞭解課程最新動態！
【雲棲號在線課堂 社羣】https://c.tb.cn/F3.Z8gvnK