梳理消息隊列?MQ/JMS/Kafka
時間:2021-10-27 13:54:18
手機看文章
掃描二維碼
隨時隨地手機看文章
[導(dǎo)讀]是不是平常聽到說消息隊列啊,JMS啊,MQ啊、kafka啊巴啦啦的一堆術(shù)語,聽不懂?關(guān)系混亂?今天就讓我們來一起來看看他們都是什么吧。1消息隊列介紹首先舉個收快遞的栗子,傳統(tǒng)的收快遞,快遞小哥把我們的快遞送到我們的手里。他需要什么條件嗯?快遞小哥有時間送,我們有時間取,快遞小哥和...
是不是平常聽到說消息隊列啊,JMS啊,MQ啊 、kafka啊巴啦啦的一堆術(shù)語,聽不懂?關(guān)系混亂?今天就讓我們來一起來看看他們都是什么吧。
1消息隊列介紹
首先舉個收快遞的栗子,傳統(tǒng)的收快遞,快遞小哥把我們的快遞送到我們的手里。他需要什么條件嗯?- 快遞小哥有時間送,
- 我們有時間取,
- 快遞小哥和我們約定一個時間地點。
1.1什么是消息隊列
我們可以把消息隊列比作是一個存放消息的容器,當(dāng)我們需要使用消息的時候可以取出消息供自己使用。我們看看維基百科上的描述:在計算機科學(xué)中,消息隊列(Message queue)是一種進程間通信或同一進程的不同線程間的通信方式,軟件的貯列用來處理一系列的輸入,通常是來自用戶。是不是很難理解,我們換個說法來理解我們可以把消息隊列比作是一個存放消息的容器,當(dāng)我們需要使用消息的時候可以取出消息供自己使用。
1.2消息隊列(Message queue)有什么用?
消息隊列是分布式系統(tǒng)中重要的組件,使用消息隊列主要是為了通過異步處理提高系統(tǒng)性能和削峰、降低系統(tǒng)耦合性。通過異步處理提高系統(tǒng)性能(削峰、減少響應(yīng)所需時間)舉個例子:我們在某個網(wǎng)站進行注冊賬號,我們需要做如下四件事:- 填寫我們的注冊信息;
- 提交我們的注冊信息;
- 我們的郵箱收到注冊信息;
- 我們的短信收到注冊信息。



降低系統(tǒng)耦合性
舉個例子,A公司做了某個系統(tǒng),B公司覺得A公司的某個功能很好,于是B公司和A公司的系統(tǒng)進行了集成。這時C公司也覺得A公司的這個功能很好,于是,C公司也和A公司的系統(tǒng)進行了集成。以后還有D公司…。介于這種情況,A公司的系統(tǒng)和其他公司的耦合度都很高,每集成一個公司的系統(tǒng),A公司都需要修改自己的系統(tǒng)。如果采用消息隊列,則變成了如下:
不管以后還有多少公司的應(yīng)用程序想要用A公司的程序,都不需要和A公司進行集成,誰需要這個功能,誰就去消息隊列里面獲取。
1.3消息隊列的兩種模式
點對點模式
應(yīng)用程序由:消息隊列,發(fā)送方,接收方組成。每個消息都被發(fā)送到一個特定的隊列,接收者從隊列中獲取消息。隊列保留著消息,直到他們被消費或超時。
發(fā)布訂閱模式
用用程序有由:角色主題(Topic)、發(fā)布者(Publisher)、訂閱者(Subscriber)構(gòu)成。發(fā)布者發(fā)布一個消息,該消息通過topic傳遞給所有的客戶端。該模式下,發(fā)布者與訂閱者都是匿名的,即發(fā)布者與訂閱者都不知道對方是誰。并且可以動態(tài)的發(fā)布與訂閱Topic。Topic主要用于保存和傳遞消息,且會一直保存消息直到消息被傳遞給客戶端。
介紹完了消息隊列,接著我們介紹JMS
2JMS介紹
JMS即Java消息服務(wù)(Java Message Service)應(yīng)用程序接口,是一個Java平臺中關(guān)于面向消息中間件(MOM)的API,類似于JDBC。用于在兩個應(yīng)用程序之間,或分布式系統(tǒng)中發(fā)送消息,進行異步通信。它提供創(chuàng)建、發(fā)送、接收、讀取消息的服務(wù)。由Sun公司和它的合作伙伴設(shè)計的應(yīng)用程序接口和相應(yīng)語法,使得Java程序能夠和其他消息組件進行通信。JMS是一個消息服務(wù)的標(biāo)準(zhǔn)或者說是規(guī)范,允許應(yīng)用程序組件基于JavaEE平臺創(chuàng)建、發(fā)送、接收和讀取消息。它使分布式通信耦合度更低,消息服務(wù)更加可靠以及異步性。介紹到這里,應(yīng)該明白了消息隊列和JMS的區(qū)別了吧?- 消息隊列:計算機科學(xué)中,A和B進行通信的一種方式。
- JMS:java平臺之間分布式通信的一種標(biāo)準(zhǔn)或者規(guī)范。
2.1JSM消息模型
點對點,發(fā)布訂閱,消息隊列中已經(jīng)說的很清楚了,這里就不重復(fù)說了。2.2JMS消費
- 同步(Synchronous)
- 異步(Asynchronous)
2.3JMS編程模型
JMS編程模型非常類似于JDBC。回憶一下,我們之前講到的MyBatis。- SqlSessionFactoryBuilder去構(gòu)造SqlSessionFactory會話工廠;
- SqlSessionFactory會話工廠給我們打開SqlSession會話;
- SqlSession幫我們?nèi)ミB接數(shù)據(jù)庫,接著我們就可以執(zhí)行增刪查改。
SqlSession?openSession?=?sqlSessionFactory.openSession(true);
ProjectMapper?mapper?=?openSession.getMapper(ProjectMapper.class);
mapper.queryAllTaskByInit("init");
JMS模型如下
- Connection Factory給我創(chuàng)建Connection連接;
- Connection連接給我們創(chuàng)建了Session會話;
- Session會話給我們創(chuàng)建消費者和生產(chǎn)者;
- 生產(chǎn)者生成消息;
- 消費者消費消息;

3MQ介紹
上文中,我們說到了,JMS他并不是一種真正意義的技術(shù),而是一種接口,一種規(guī)范。就想JDBC一樣,無論是mybatis、hibernate,還是springJPA,不管你是那種技術(shù)實現(xiàn),反正你得遵守JDBC的規(guī)范。在Java中,目前基于JMS實現(xiàn)的消息隊列常見技術(shù)有ActiveMQ、RabbitMQ、RocketMQ。值得注意的是,RocketMQ并沒有完全遵守JMS規(guī)范,并且Kafka不是JMS的實現(xiàn)。3.1AMQP協(xié)議
這里我們以RabbitMQ為例介紹MQ,首先介紹下AMQPAMQP協(xié)議(Advanced Message Queuing Protocol,高級消息隊列協(xié)議)是一個進程間傳遞異步消息的網(wǎng)絡(luò)協(xié)議。AMQP模型

AMQP工作過程
發(fā)布者(Publisher)發(fā)布消息(Message),經(jīng)由交換機(Exchange)。交換機根據(jù)路由規(guī)則將收到的消息分發(fā)給與該交換機綁定的隊列、(Queue)。最后 AMQP 代理會將消息投遞給訂閱了此隊列的消費者,或者消費者按照需求自行獲取。RabbitMQ是MQ產(chǎn)品的典型代表,是一款基于AMQP協(xié)議可復(fù)用的企業(yè)消息系統(tǒng)3.2RabbitMQ模型
RabbitMQ由兩部分組成,分別是服務(wù)端和應(yīng)用端;- 服務(wù)端包括:隊列和交換機。
- 客戶端包括:生產(chǎn)者和消費者。


- Direct:直接交換器,工作方式類似于單播,Exchange會將消息發(fā)送完全匹配ROUTING_KEY的Queue。
- Fanout:廣播是式交換器,不管消息的ROUTING_KEY設(shè)置為什么,Exchange都會將消息轉(zhuǎn)發(fā)給所有綁定的Queue(所謂綁定就是將一個特定的 Exchange 和一個特定的 Queue 綁定起來。Exchange 和Queue的綁定可以是多對多的關(guān)系)。
- Topic:主題交換器,工作方式類似于組播,Exchange會將消息轉(zhuǎn)發(fā)和ROUTING_KEY匹配模式相同的所有隊列,比如,ROUTING_KEY為user.stock的Message會轉(zhuǎn)發(fā)給綁定匹配模式為 * .stock,user.stock, * . * 和#.user.stock.#的隊列。( * 表是匹配一個任意詞組,#表示匹配0個或多個詞組)。
4Kafka
上完中我們提到過,kafka不是JMS的實現(xiàn),因此在MQ章節(jié)中,我們沒有提及到它?,F(xiàn)在我們開始學(xué)習(xí)kafka吧。先來放張kafka的原理圖,相信你看到這個圖片時,內(nèi)心是奔潰的。我草,啥玩意。接下來我們就一點一點的消化吧。4.1kafka原理圖

- Producer :消息生產(chǎn)者,就是向kafka broker發(fā)消息的客戶端。
- Consumer :消息消費者,向kafka broker取消息的客戶端。
- Topic :kafka給消息提供的分類方式。broker用來存儲不同topic的消息數(shù)據(jù)。一個Topic可以認(rèn)為是一類消息,每個topic將被分成多個partition(區(qū)),每個partition在存儲層面是append log文件。任何發(fā)布到此partition的消息都會被直接追加到log文件的尾部,每條消息在文件中的位置稱為offset(偏移量),offset為一個long型數(shù)字,它是唯一標(biāo)記一條消息。它唯一的標(biāo)記一條消息。kafka并沒有提供其他額外的索引機制來存儲offset,因為在kafka中幾乎不允許對消息進行“隨機讀寫”。
- broker:中間件的kafka cluster,存儲消息,是由多個server組成的集群。
- Partition:為了實現(xiàn)擴展性,一個非常大的topic可以分布到多個broker(即服務(wù)器)上,一個topic可以分為多個partition,每個partition是一個有序的隊列。partition中的每條消息都會被分配一個有序的id(offset)。kafka只保證按一個partition中的順序?qū)⑾l(fā)給consumer,不保證一個topic的整體(多個partition間)的順序。
- Offset:kafka的存儲文件都是按照offset.kafka來命名,例如你想找位于2049的位置,只要找到2048.kafka的文件即可。當(dāng)然the first offset就是00000000000.kafka。
Kafka高可用機制
- 多個broker組成,每個broker是一個節(jié)點;
- 你創(chuàng)建一個topic,這個topic可以劃分為多個partition,每個partition可以存在于不同的broker上,每個partition就放一部分?jǐn)?shù)據(jù)。
- 采用replica副本機制,每個partition的數(shù)據(jù)都會同步到其他機器上,形成多個replica副本。
- 所有replica會選舉一個leader出來,那么生產(chǎn)和消費都跟這個leader打交道,然后其他replica就是follower。
- 讀數(shù)據(jù)時,從leader讀取,寫數(shù)據(jù)時,leader把數(shù)據(jù)同步到所有follower上去。如果某個broker宕機了,這個broker在其他的broker還保留副本,假設(shè)這個broker上面存在leader,那么就重新選一個leader。
4.2生產(chǎn)者結(jié)構(gòu)圖

- 消息隊列:指計算機領(lǐng)域中,A和B通信的一種通信方式;
- JMS:Java中對于消息隊列的接口規(guī)范;
- ActiveMQ/RabbitMQ:JMS接口規(guī)范具體實現(xiàn)的一種技術(shù);
- RocketMQ:不完全是JMS接口規(guī)范具體實現(xiàn)的一種技術(shù);
- Kafka:非JMS接口規(guī)范具體實現(xiàn)的一種技術(shù);