Apache Pulsar延遲消息投遞解析,apache log4j2-ESG跨境

Apache Pulsar延遲消息投遞解析,apache log4j2

Apache Pulsar延遲消息投遞解析

導(dǎo)語Apache Pulsar是一個多租戶、高性能的服務(wù)間消息傳輸解決方案，支持多租戶、低延時、讀寫分離、跨地域復(fù)制、快速擴容、靈活容錯等特性。騰訊數(shù)據(jù)平臺部MQ團(tuán)隊對Pulsar做了深入調(diào)研以及大量的性能和穩(wěn)定性方面優(yōu)化，目前已經(jīng)在騰訊云消息隊列TDMQ落地上線。本文主要介紹Pulsar延遲消息投遞的實現(xiàn)，希望與大家一同交流。

一、什么是延遲消息投遞

延遲消息投遞在MQ應(yīng)用場景中十分普遍，它是指消息在發(fā)國際快遞MQ服務(wù)端后并不會立馬投遞，而是根據(jù)消息中的屬性延遲固定時間后才投遞給消費者，一般分為定時消息和延遲消息兩種：

·定時消息：Producer將消息發(fā)國際快遞MQ服務(wù)端，但并不期望這條消息立馬投遞，而是推遲到在當(dāng)前時間點之后的某一個時間投遞到Consumer進(jìn)行消費。

·延遲消息：Producer將消息發(fā)國際快遞MQ服務(wù)端，但并不期望這條消息立馬投遞，而是延遲一定時間后才投遞到Consumer進(jìn)行消費。

目前在業(yè)界，騰訊云的CMQ和阿里云的RocketMQ也都支持延遲消息投遞：

·CMQ：將消息延遲期間定義為”飛行狀態(tài)“，可通過設(shè)置DelaySeconds配置延遲范圍，取值范圍為03600秒，即消息最長不可見時長為1小時。

·RocketMQ：開源版本延遲消息臨時存儲在一個內(nèi)部主題中，支持特定的level，例如定時5s，10s，1m等，商業(yè)版本支持任意時間精度。

開源的NSQ、RabbitMQ、ActiveMQ和Pulsar也都內(nèi)置了延遲消息的處理能力。雖然每個MQ項目的使用和實現(xiàn)方式不同，但核心實現(xiàn)思路都一樣：Producer將一個延遲消息發(fā)國際快遞某個Topic中，Broker將延遲消息放到臨時存儲進(jìn)行暫存，延遲跟蹤服務(wù)（Delayed Tracker Service）會檢查消息是否到期，將到期的消息進(jìn)行投遞。

二、延遲消息投遞的使用場景

延遲消息投遞是要暫緩對當(dāng)前消息的處理，在未來的某個時間點再觸發(fā)投遞，實際的應(yīng)用場景非常多，比如異常檢測重試、訂單超時取消、預(yù)約提醒等。

·服務(wù)請求異常，需要將異常請求放到單獨的隊列，隔5分鐘后進(jìn)行重試；

·用戶購買商品，但一直處于未支付狀態(tài)，需要定期提醒用戶支付，超時則關(guān)閉訂單；

·面試或者會議預(yù)約，在面試或者會議開始前半小時，發(fā)快遞通知再次提醒；

TDMQ最近就有個使用Pulsar延遲消息的Case：業(yè)務(wù)要對兩套系統(tǒng)的日志消息進(jìn)行關(guān)聯(lián)，其中一套系統(tǒng)由于查詢Hbase可能會超時或失敗，需要將失敗的關(guān)聯(lián)任務(wù)在集群空閑的時候再次調(diào)度。

三、如何使用Pulsar延遲消息投遞

Pulsar最早是在2.4.0引入了延遲消息投遞的特性，在Pulsar中使用延遲消息，可以精確指定延遲投遞的時間，有deliverAfter和deliverAt兩種方式。其中deliverAt可以指定具體的時間戳；deliverAfter可以指定在當(dāng)前多長時間后執(zhí)行。兩種方式的本質(zhì)是一樣的，Client會計算出時間戳國際快遞Broker。

1.deliverAfter發(fā)快遞

producer.newMessage()

    .deliverAfter(long time, TimeUnit unit)

    .send();

2.deliverAt發(fā)快遞

producer.newMessage()

    .deliverAt(long timestamp)

    .send();

在Pulsar中，可以支持跨度很大的延時消息，比方說一個月、半年；同時在一個Topic里，既支持延時消息，也支持非延時消息。下圖展示了Pulsar中延遲消息的具體過程：

producer發(fā)快遞的m1/m3/m4/m5有不同的延遲時間，m2是不需要延遲投遞的正常消息，consumer消費時會根據(jù)不同的延遲時間進(jìn)行ack。

四、Pulsar延遲消息投遞實現(xiàn)原理

從上面的使用方式可以看出，Pulsar支持的是秒級精度的延遲消息投遞，不同于開源RocketMQ支持固定時間level的延遲。

Pulsar實現(xiàn)延遲消息投遞的方式比較簡單，所有延遲投遞的消息會被Delayed Message Tracker記錄對應(yīng)的index。index是由timestampLedgerIDEntryID三部分組成，其中LedgerIDEntryID用于定位該消息，timestamp除了記錄需要投遞的時間，還用于delayed index優(yōu)先級隊列排序。

Delayed Message Tracker在堆外內(nèi)存維護(hù)著一個delayed index優(yōu)先級隊列，根據(jù)延遲時間進(jìn)行堆排序，延遲時間最短的會放在頭上，時間越長越靠后。consumer在消費時，會先去Delayed Message Tracker檢查，是否有到期需要投遞的消息，如果有到期的消息，則從Tracker中拿出對應(yīng)的index，找到對應(yīng)的消息進(jìn)行消費；如果沒有到期的消息，則直接消費正常的消息。

如果集群出現(xiàn)Broker宕機或者topic的ownership轉(zhuǎn)移，Pulsar會重建delayed index隊列，來保證延遲投遞的消息能夠正常工作。

五、Pulsar延遲消息投遞面臨的挑戰(zhàn)

從Pulsar的延遲消息投遞實現(xiàn)原理可以看出，該方法簡單高效，對Pulsar內(nèi)核侵入性較小，可以支持到任意時間的延遲消息。但同時發(fā)現(xiàn)，Pulsar的實現(xiàn)方案無法支持大規(guī)模使用延遲消息，主要有以下兩個原因：

1.delayed index隊列受到內(nèi)存限制

一條延遲消息的delayed index由三個long組成，對于小規(guī)模的延遲消息來說，內(nèi)存開銷并不大。但由于index隊列是subscription級別，對于topic的同一個partition來說，有多少個subscription就需要維護(hù)多少個index隊列；同時，由于延遲消息越多、延遲的時間越長，index隊列內(nèi)存占用也會更多。

2.delayed index隊列重建時間開銷

上面有提到，如果集群出現(xiàn)Broker宕機或者topic的ownership轉(zhuǎn)移，Pulsar會重建delayed index隊列。對于跨度時間長的大規(guī)模延遲消息，重建時間可能會到小時級別。為了減小delayed index隊列重建時間，雖然可以給topic分更多的partition提高重建的并發(fā)度，但沒有徹底解決重建時間開銷問題。

六、Pulsar延遲消息投遞未來工作

Pulsar目前的延遲消息投遞方案簡單高效，但處理大規(guī)模延遲消息時仍然存在風(fēng)險。關(guān)于延遲消息投遞，社區(qū)和數(shù)據(jù)平臺部MQ團(tuán)隊下一步將聚焦在支持大規(guī)模延遲消息。目前討論的方案是在delayed index隊列加入時間分區(qū)，Broker只加載當(dāng)前較近的時間片delayed index到內(nèi)存，其余時間片分區(qū)持久化磁盤，示例圖如下圖所示：

上圖中，我們按5分鐘的間隔對delayed index隊列進(jìn)行分區(qū)，m5和m1放在了time partition 1，由于延遲時間最近，放在了內(nèi)存；m4和m3在time partition 2，延遲時間比較靠后，index存儲在了磁盤。該方案不僅可以減少delayed index隊列重建時間開銷，還可以降低對內(nèi)存的依賴。

結(jié)語

本文為大家介紹了延遲消息投遞的相關(guān)概念和使用場景，并詳細(xì)拓展了Apache Pulsar的實現(xiàn)原理。Pulsar目前方案簡單高效，支持秒級精度的延遲消息投遞，但在處理大規(guī)模延遲消息時還有一些局限。

目前騰訊云消息隊列TDMQ上已上線了對Pulsar延遲消息投遞的支持，Pulsar社區(qū)和數(shù)據(jù)平臺部MQ團(tuán)隊下一步也將聚焦在支持大規(guī)模延遲消息上。

特別聲明：以上文章內(nèi)容僅代表作者本人觀點，不代表ESG跨境電商觀點或立場。如有關(guān)于作品內(nèi)容、版權(quán)或其它問題請于作品發(fā)表后的30日內(nèi)與ESG跨境電商聯(lián)系。