Kafka與ActiveMQ的區別與聯繫詳解

1. 背景分析

消息隊列這個類型的組件一直是非常重要的組件,當經過兩家企業後我就很堅信這個結論了。隊列這種東西,最廣泛的作用還是在於解耦,寬泛一點的說,它可以將不同部門的工作內容進行有效的整合,基於一個約定好的格式,就可以兩頭互相不干擾的進行開發。可以說這個生產消費的思想不僅僅適用於程序也適用於非常多的地方。
目前對於我看到的來說,Kafka更多的還是做爲一個數據源,數據橋樑的作用,不同業務之間的溝通。比如需要實時接入A部門的業務數據的話,就會有這樣的手段:

落地到HDFS的數據會用來進行一些算法上的離線處理,而Kafka端則是給需要實時性的消費方。其實數據的消費方式無非也就實時和離線兩種方式。

2. Kafka和ActiveMQ對比

相比過去經常使用的ActiveMQ,Kafka確實非常的不同,做一個對比來深化印象

說到底,做爲kafka的消費方,能感受到最大的不同還是在於幾個:

1. 吞吐量確實非常高

2.可以重讀歷史數據

3.但是也有一些缺點:概念上比較複雜,相對於AMQ只需要知道ip和隊列名你就能獲得數據,Kafka使用起來非常繁瑣

3. Kafka的基本概念(摘錄)

1.Broker:消息中間件處理結點,一個Kafka節點就是一個broker,多個broker可以組成一個Kafka集羣。
2.Topic:一類消息,例如page view日誌、click日誌等都可以以topic的形式存在,Kafka集羣能夠同時負責多個topic的分發。
3.Partition:topic物理上的分組,一個topic可以分爲多個partition,每個partition是一個有序的隊列。
4.Segment:partition物理上由多個segment組成。
5.offset:每個partition都由一系列有序的、不可變的消息組成,這些消息被連續的追加到partition中。partition中的每個消息都有一個連續的序列號叫做offset,用於partition唯一標識一條消息.

4. Kafka消費端的常用參數

Properties props = new Properties();
//zk服務器的地址  xxxx:2181
props.put("zookeeper.connect", zookeeper);
//組的名稱,區別於其他group否則會接收不到數據
props.put("group.id", groupId);
props.put("zookeeper.session.timeout.ms", "8000");
props.put("zookeeper.connection.timeout.ms", "20000");
props.put("zookeeper.sync.time.ms", "2000");
props.put("auto.commit.interval.ms", "5000");
props.put("rebalance.max.retries", "5");
props.put("rebalance.backoff.ms", "60000");
props.put("auto.commit.enable", "true");
//重點參數,是否每次都從offset最前面開始讀起
props.put("auto.offset.reset", "smallest");
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章