集群消费和广播消费

本文介绍 SOFAStack 消息队列的集群消费和广播消费的基本概念、适用场景以及注意事项。

消息队列是基于发布/订阅模型的消息系统。消费者,即消息的订阅方订阅关注的 Topic,以获取并消费消息。由于消费者应用一般是分布式系统,以集群方式部署,因此消息队列约定以下概念:

  • 集群:使用相同 Group ID 的消费者属于同一个集群。同一个集群下的消费者消费逻辑必须完全一致(包括 Tag 的使用)。详情请参见 订阅关系一致

  • 集群消费:当使用集群消费模式时,消息队列认为任意一条消息只需要被集群内(单 Zone 内)的任意一个消费者处理即可。

  • 广播消费:当使用广播消费模式时,消息队列会将每条消息推送给集群内(单 Zone 内)所有注册过的消费者,保证消息至少被每个消费者消费一次。

集群消费模式

适用于消费端集群化部署,每条消息只需要被处理一次的场景。此外,由于消费进度在服务端维护,可靠性更高。具体消费示例如下图所示。集群消费模式

注意事项

  • 集群消费模式下,每一条消息都只会被分发到一台机器上处理。如果需要被集群下的每一台机器都处理,请使用广播模式。

  • 集群消费模式下,不保证每一次失败重投的消息路由到同一台机器上。

广播消费模式

适用于消费端集群化部署,每条消息需要被集群下的每个消费者处理的场景。具体消费示例如下图所示。广播消费模式

注意事项

  • 广播消费模式下不支持顺序消息。

  • 广播消费模式下不支持重置消费位点。

  • 广播模式下不支持线下联调分组消息。

  • 每条消息都需要被相同订阅逻辑的多台机器处理。

  • 消费进度在客户端维护,出现重复消费的概率稍大于集群模式。

  • 广播模式下,消息队列保证每条消息至少被每台客户端消费一次,但是并不会重投消费失败的消息,因此业务方需要关注消费失败的情况。

  • 广播模式下,客户端每一次重启都会从最新消息消费。客户端在被停止期间发送至服务端的消息将会被自动跳过,请谨慎选择。

  • 广播模式下,每条消息都会被大量的客户端重复处理,因此推荐尽可能使用集群模式。

  • 广播模式下服务端不维护消费进度,所以消息队列控制台不支持消息堆积查询、消息堆积报警和订阅关系查询功能。

更多信息

集群消费模式和广播消费模式的具体配置方法,请参见以下文档: