原创 如何利用開源Flink和Pravega搭建完整的流處理架構?

Pravega 與 Flink 的設計理念類似,都以流爲基礎實現流批統一的接口便於應用使用。Pravega 團隊也希望與 Flink 一起打造從底層存儲到上層計算的統一大數據流水線架構。在開發層面,Pravega 與 Flink 也有着深度

原创 流處理系統正確性基石:ExactlyOnce的設計和實現

所謂的流式處理其實就是對Stream的讀取-處理-寫入(ETL)操作,應用從Stream中讀取數據,再對數據進行相應的處理分析,最後將結果寫入另一個Stream中。其中僅一次語義保證了哪怕系統發生故障,每一個ETL操作也僅會被執行一次,不會

原创 “ToB” 產品必備特性:Pravega的動態彈性伸縮

在當下衆多互聯網應用場景下,實時數據產生的速率根據時間的變化會有着翻天覆地的變化。我們既可能面對諸如外賣訂單、住房成交量、雙十一訂單這些場景,其數據量有週期性且在局部的時間內會有可預知的突發的數據峯值;也可能面對微博熱搜、路況事故信息這一

原创 Pravega應用實戰:爲什麼雲原生特性對流處理很重要?

雲原生(Cloud Native)與Pravega 隨着容器技術和雲服務的發展,Kubernetes 和雲原生運動已大規模地重定義了應用設計和開發的一些方面。雲原生是一種基於微服務架構思想、以容器技術爲載體,產品研發運營的模式。通過這樣的軟

原创 開源Pravega架構解析:如何通過分層解決流存儲的三大挑戰?

當前的大數據處理系統無論是何種架構都面臨一個共同的問題,即:“計算是原生的流計算,而存儲卻不是原生的流存儲” 。Pravega 團隊重新思考了這一基本的數據處理和存儲規則,爲這一場景重新設計了一種新的存儲類型,即原生的流存儲,命名爲”Pr

原创 爲什麼說Pravega是實時流處理統一批處理的最後一塊拼圖?

工業物聯網,車聯網和實時欺詐風控的需求正在飛速的發展。越來越多的企業新應用,需要的是快速響應客戶需求,並同時學習和適應不斷變化的行爲模式。同時隨着5G網絡、容器雲、高性能存儲硬件水平的不斷提高,讓實時流處理正在擁有越來越廣泛的市場前景。 流