原创 SparkSQL在有贊大數據的實踐

一、前言 在 2019 年 1 月份的時候,我們發表過一篇博客 SparkSQL在有贊大數據的實踐,裏面講述我們在 Spark 裏所做的一些優化和任務遷移相關的內容。本文會接着上次的話題繼續講一下我們之後在 SparkSQL 上所做的一些改

原创 實時計算在有讚的實踐——效率提升之路

1. 概述 有贊是一個商家服務公司,提供全行業全場景的電商解決方案。在有贊,大量的業務場景依賴對實時數據的處理,作爲一類基礎技術組件,服務着有贊內部幾十個業務產品,幾百個實時計算任務,其中包括交易數據大屏,商品實時統計分析,日誌平臺,調用鏈

原创 Druid 在有讚的實踐

一、Druid 介紹 Druid 是 MetaMarket 公司研發,專爲海量數據集上的做高性能 OLAP (OnLine Analysis Processing)而設計的數據存儲和分析系統,目前 Druid 已經在 Apache 基金會下

原创 有贊透明多級緩存解決方案(TMC)設計思路

引子 TMC 是什麼 TMC,即“透明多級緩存(Transparent Multilevel Cache)”,是有贊 PaaS 團隊給公司內應用提供的整體緩存解決方案。 TMC 在通用“分佈式緩存解決方案(如 CodisProxy + Re

原创 有贊搜索系統的架構演進

有贊搜索平臺是一個面向公司內部各項搜索應用以及部分 NoSQL 存儲應用的 PaaS 產品,幫助應用合理高效的支持檢索和多維過濾功能,有贊搜索平臺目前支持了大大小小一百多個檢索業務,服務於近百億數據。 在爲傳統的搜索應用提供高級檢索和大數據

原创 有贊電商雲應用框架設計

背景 有贊是 SaaS 公司,向商家提供了全方位的軟件服務,支撐商家進行採購、店鋪、商品、營銷、訂單、物流等等管理服務。 在這個軟件服務裏,能夠滿足大部分的商家,爲商家保駕護航。 但是很多大商家往往會有自己的特殊需求,如使用自己的優惠券、分