原创 MongoDB compact 命令詳解【轉載】

爲什麼需要 compact一圖勝千言remove 與 drop 的區別MongoDB 裏刪除一個集合裏所有文檔,有兩種方式db.collection.remove({}, {multi: true}),逐個文檔從 btree 裏刪除,最後所

原创 通過 esrally 壓測elasticsearch

需要安裝的軟件:python3git版本高於1.9python3的安裝,忽略,很簡單git源碼編譯安裝:https://mirrors.edge.kernel.org/pub/software/scm/git/ tar xf git-2.2

原创 使用 gor 複製真實流量壓測ES集羣

生產環境下, 我們一般使用 esrally來做es的基準測試。 但是畢竟和真實生產的請求場景可能有差異的。 因此,有必要考慮使用真實流量來壓測ES集羣。常用的流量複製工具有tcpcopy之類的,這裏我們介紹一個更簡單易用的工具 gor 。T

原创 避免 proxysql 跟後端建立過多連接的方法

2019-11-18原文地址: https://www.percona.com/blog/2019/09/27/multiplexing-mux-in-proxysql/直接上我在生產環境的配置過程:登錄到proxysql集羣的任意節點的管

原创 單機上快速搭建pxc測試集羣

https://www.percona.com/blog/2019/10/15/how-to-start-a-3-node-percona-xtradb-cluster-with-the-binary-tarball-package/工作或

原创 使用aliyun-exporter採集阿里雲的數據

參考文檔:https://partners-intl.aliyun.com/help/doc-detail/28619.html?spm=a3c0i.10721930.0.0.63d53d98TZJj5Uhttps://www.alibab

原创 Prometheus遠端數據存儲方案之PostgreSQL

今天看到德哥分享的基於postgresql的prometheus數據遠端存儲方案,於是有了本文的實驗。通常,prometheus的外置存儲方案有好幾種選擇,例如influxdb,m3db, es,postgresql。m3db一般在雲原生環

原创 使用tunnel同步PG數據到kafka

tunnel同步PG數據到kafka來自哈羅單車開源的組件。支持同步PG數據到kafka或者ES。 https://github.com/hellobike/tunnel tunnel整體的部署比較簡單的需要事先部署好zk和kafka(我下

原创 基於binlog的離線分析平臺的一些初步實踐

基於binlog的離線分析平臺的一些初步實踐 參考文檔: http://quarterback.cn/%e9%80%9a%e8%bf%87kafka-nifi%e5%bf%ab%e9%80%9f%e6%9e%84%e5%bb%ba%e5%b

原创 PG從庫查詢被終止的解決辦法

說明: 以下大部分內容來自 《PostgreSQL實戰》 PG流複製場景下,默認配置下, 如果在PG從庫執行長時間的查詢,會出現查詢的報錯。提示ERROR: canceling statement due to conflict with

原创 PG的延遲複製及相關參數的設置影響

說明: 下文的部分內容節選自《PostgreSQL實戰》PG的延遲複製參數: recovery_min_apply_delay 某些情況下,一個後備服務器會盡快恢復來自於主服務器的 WAL 記錄。有一份數據的延時拷貝是有用的,它能提供機會糾

原创 PostgreSQL11 編譯支持JIT功能

JIT  just-in-time 即時編譯功能    JIT在大數據集的查詢條件下,可能迅速提升查詢速度的作用。但是它也不是任何情況下都能提效的,可以參考這篇  https://www.postgresql.org/docs/11/jit

原创 使用 redis-shake 遷移 redis-cluster集羣

使用 redis-shake 遷移 redis-cluster背景:    IDC上雲, 有2套redis-cluster需要遷移到雲上。 這裏我們使用 redis-shake 來做遷移操作。模擬機房集羣(圖是我後截的,圖上已經有key了)

原创 全局id生成器試用之Leaf

數據量上來後,單庫單表承受不住的時候,我們就需要引入分庫分表。 但是分庫分表後,主鍵id就不能依賴於MySQL,需要從外部去獲取id。目前我們生產環境在用的DBLE作爲中分庫分表中間件, 其自帶了類似snowflake方案的全局id生成器,

原创 prometheus使用釘釘告警

prometheus自帶的郵件告警,有可能被淹沒在日常郵件中。 因此建議再配一個webhook類的告警通道。 如果爲了靈活性,我們可以自己寫webhook,例如 可以實現不同規則的告警通知到不同的接收人、某些時間段的告警靜默等 。 如果要求