原创 MongoDB分片配置

簡單註解: mongos 路由進程, 應用程序接入mongos再查詢到具體分片,監聽端口默認27017 config server 路由表服務, 每一臺都具有全部chunk的路由信息  shard爲數據存儲分片, 每一片都可以是複製集(r

原创 kafka文檔: 配置選項翻譯

問題導讀 1.broker.id的作用是什麼? 2.max.message.bytes表示什麼含義? 3.group.id是用來標識什麼的? 來源: http://kafka.apache.org/documenta

原创 軟件架構設計-五視圖方法論

在實際工作中,我們經常聽到“架構”和“架構師”這樣的名詞,並不新鮮,但是總讓很多剛入門的 ​​​在實際工作中,我們經常聽到“架構”和“架構師”這樣的名詞,並不新鮮,但是總讓很多剛入門的人感覺很神祕,甚至是高深莫測。很少有人對“架構”有全面的

原创 tornado

引言 回想Django的部署方式 以Django爲代表的python web應用部署時採用wsgi協議與服務器對接(被服務器託管),而這類服務器通常都是基於多線程的,也就是說每一個網絡請求服務器都會有一個對應的線程來用web應用(如Dj

原创 centos7 安裝後需要做的事情

安裝centos 7 系統之後要做的幾件事   #修改主機名 hostnamectl --static set-hostname xd-1<br><br>vim /etc/hosts<br>127.0.0.1 xd-1<br>x.x.x.x

原创 python 的日誌logging模塊學習

1.簡單的將日誌打印到屏幕   import logging logging.debug('This is debug message') logging.info('This is info message') logging

原创 Kafka文件存儲機制及offset存取

Kafka是什麼 Kafka是最初由Linkedin公司開發,是一個分佈式、分區的、多副本的、多訂閱者,基於zookeeper協調的分佈式日誌系統(也可以當做MQ系統),常見可以用於web/nginx日誌、訪問日誌,消息服務等等,Lin

原创 使用YCSB測試Mongodb性能的方法簡介

https://github.com/brianfrankcooper/YCSB/tree/master/mongodb curl -O --location https://github.com/brianfrankcooper/YCSB

原创 mongodb退出沒有錯誤提示

1:看下系統日誌是否有記錄,如dmesg,/var/log/message文件 2:將你的進程託管給系統的init進程,具體方法查下就知道 3:寫個監控腳本,監控進程是否存在,記錄進程消失的時候的系統狀態 core有時候不一定會生成,如果是

原创 如何爲一個kafka集羣選擇topics/partitions的數量

How to choose the number oftopics/partitions in a Kafka cluster? 如何爲一個kafka集羣選擇topics/partitions的數量?   This is a common

原创 Kafka Shell基本命令(包括topic的增刪改查)

創建kafka topic bin/kafka-topics.sh --zookeeper node01:2181 --create --topic t_cdr --partitions 30 --replication-factor

原创 kafka消息服務的producer、broker、consumer的配置

server.properties配置: server.properties中所有配置參數說明(解釋)如下列表: 參數 說明(解釋) broker.id =0 每一個broker在集羣中的唯一表示, 要求是正數。當該

原创 MongoDB聚合(Aggregation Pipeline基礎篇-下)(四)

一、簡介:       上一篇我們對   db.collection.aggregate(pipeline, options)介紹,我們接下來介紹pipeline 參數和options參數的基礎認識     【pipeline 參數】  

原创 Tornado實現多線程、多進程HTTP服務

背景 線上有一個相關百科的服務,返回一個query中提及的百科詞條。該服務是用python實現的,以前通過thrift接口訪問,現要將其改爲通過HTTP訪問。之前沒有搭建HTTPServer的經驗,因此想用python的web Frame

原创 python logging動態變更輸出日誌文件名

python作爲一門非常容易上手的腳本語言,日誌輸出更是簡單,logging模塊,簡單的設置配置和屬性,就能實現到控制檯輸出日誌,在basicConfig()設置文件名,就能夠將日誌信息寫入文件,簡直是簡單到不能再簡單。   最近在項目中就