仅此一招,再无消息乱序的烦恼 excel乱序排列
ztj100 2024-12-29 07:20 21 浏览 0 评论
1. 概览
RocketMQ 早已提供了一组最佳实践,但工作在一线的伙伴却很少知道,项目中的各种随性代码经常导致消息错乱问题,严重影响业务的准确性。为了保障最佳实践的落地,降低一线伙伴的使用成本,统一 MQ 使用规范,需要对其进行抽象和封装…
1.1. 背景
RocketMQ的最佳实践中推荐:一个应用尽可能用一个Topic,消息子类型用tags来标识,tags可以由应用自由设置。
在使用rocketMQTemplate发送消息时,通过设置发送方法的destination参数来设置消息的目的地,destination的格式为topicName:tagName,:前面表示topic的名称,后面表示tags名称,简单示例如下:
// 计算 destination
protected String createDestination(String topic, String tag) {
if (org.apache.commons.lang3.StringUtils.isNotEmpty(tag)){
return topic + ":" + tag;
}else {
return topic;
}
}
// 发送信息
String destination = createDestination(topic, tag);
SendResult sendResult = this.rocketMQTemplate.syncSendOrderly(destination, msg, shardingKey, 2000);
tags从命名来看像是一个复数,但发送消息时,目的地只能指定一个topic下的一个tag,不能指定多个。
但,在消费消息时,就变的没那么方便了,简单示例如下:
@Service
@RocketMQMessageListener(
topic = "consumer-test-topic-1",
consumerGroup ="user-message-consumer-1",
selectorExpression = "*",
consumeMode = ConsumeMode.ORDERLY
)
@Slf4j
public class RocketBasedUserMessageConsumer extends UserMessageConsumer
implements RocketMQListener<MessageExt> {
@Override
public void onMessage(MessageExt message) {
String tag = message.getTags();
byte[] body = message.getBody();
log.info("handle msg body {}", new String(body));
switch (tag){
case "UserCreatedEvent":
UserEvents.UserCreatedEvent createdEvent = JSON.parseObject(body, UserEvents.UserCreatedEvent.class);
handle(createdEvent);
return;
case "UserEnableEvent":
UserEvents.UserEnableEvent enableEvent = JSON.parseObject(body, UserEvents.UserEnableEvent.class);
handle(enableEvent);
return;
case "UserDisableEvent":
UserEvents.UserDisableEvent disableEvent = JSON.parseObject(body, UserEvents.UserDisableEvent.class);
handle(disableEvent);
return;
case "UserDeletedEvent":
UserEvents.UserDeletedEvent deletedEvent = JSON.parseObject(body, UserEvents.UserDeletedEvent.class);
handle(deletedEvent);
return;
}
}
}
该方法有几个问题:
- tag 维护成本较高,RocketMQMessageListener 设置 selectorExpression 为 *,将拉取全部数据,增加通讯成本;如果使用 tag1 || tag2 方式,每次调整都需要对代码和配置进行更新,特别容易遗漏;
- 充斥大量模板代码,比如 case 分支,反序列化,调用业务方法等;
- API 具有侵入性,开发是需要关心 RocketMQ API,存在一定学习成本;
1.2. 目标
提供一种面向业务场景的,灵活进行业务扩展的模式,具有以下特征:
- Tag 和代码保持一致,不需要多处配置,新增逻辑自动完成 Tag 注册;
- 消除模板方法,类中只保留核心业务方法,框架完成 方法分发、消息反序列化等操作;
- 代码零侵入,仅使用注解,无需了解 RocketMQ API;
2. 快速入门
框架依赖 rocketmq-spring-boot-starter 完成消息发送和回收。
2.1. 环境准备
2.1.1. 增加依赖
首先,增加 rocketmq 相关依赖。
<dependency>
<groupId>org.apache.rocketmq</groupId>
<artifactId>rocketmq-spring-boot-starter</artifactId>
<version>2.2.1</version>
</dependency>
然后,增加 lego starter。
<dependency>
<groupId>com.geekhalo.lego</groupId>
<artifactId>lego-starter</artifactId>
<version>0.1.13-tag_based_dispatcher_message_consumer-SNAPSHOT</version>
</dependency>
2.1.2. 增加配置
在 application.yml 文件中增加 rocketmq 配置。
rocketmq:
name-server: http://127.0.0.1:9876
producer:
group: rocket-demo
2.2. 定义消费者
定义消费者,只需:
- 在 Bean 上增加 @TagBasedDispatcherMessageConsumer 注解,并指定 topic 和 consumer
- 在 Bean 的方法上添加 @HandleTag 注解,并指定监听的 tag
示例如下:
@TagBasedDispatcherMessageConsumer(
topic = "consumer-test-topic",
consumer = "user-message-consumer"
)
public class UserMessageConsumer {
private final Map<Long, List<UserEvents.UserEvent>> events = Maps.newHashMap();
public void clean(){
this.events.clear();;
}
public List<UserEvents.UserEvent> getUserEvents(Long userId){
return this.events.get(userId);
}
@HandleTag("UserCreatedEvent")
public void handle(UserEvents.UserCreatedEvent userCreatedEvent){
List<UserEvents.UserEvent> userEvents = this.events.computeIfAbsent(userCreatedEvent.getUserId(), userId -> new ArrayList<>());
userEvents.add(userCreatedEvent);
}
@HandleTag("UserEnableEvent")
public void handle(UserEvents.UserEnableEvent userEnableEvent){
List<UserEvents.UserEvent> userEvents = this.events.computeIfAbsent(userEnableEvent.getUserId(), userId -> new ArrayList<>());
userEvents.add(userEnableEvent);
}
@HandleTag("UserDisableEvent")
public void handle(UserEvents.UserDisableEvent userDisableEvent){
List<UserEvents.UserEvent> userEvents = this.events.computeIfAbsent(userDisableEvent.getUserId(), userId -> new ArrayList<>());
userEvents.add(userDisableEvent);
}
@HandleTag("UserDeletedEvent")
public void handle(UserEvents.UserDeletedEvent userDeletedEvent){
List<UserEvents.UserEvent> userEvents = this.events.computeIfAbsent(userDeletedEvent.getUserId(), userId -> new ArrayList<>());
userEvents.add(userDeletedEvent);
}
}
2.3. 测试
编写测试用例如下:
@SpringBootTest(classes = DemoApplication.class)
@Slf4j
class UserMessageConsumerTest {
@Autowired
private UserMessageConsumer userMessageConsumer;
@Autowired
private RocketMQTemplate rocketMQTemplate;
private List<Long> userIds;
@BeforeEach
void setUp() throws InterruptedException {
this.userMessageConsumer.clean();
this.userIds = new ArrayList<>();
for (int i = 0; i< 100; i++){
userIds.add(10000L + i);
}
this.userIds.forEach(userId -> sendMessage(userId));
TimeUnit.SECONDS.sleep(3);
}
private void sendMessage(Long userId) {
String topic = "consumer-test-topic";
{
String tag = "UserCreatedEvent";
UserEvents.UserCreatedEvent userCreatedEvent = new UserEvents.UserCreatedEvent();
userCreatedEvent.setUserId(userId);
userCreatedEvent.setUserName("Name-" + userId);
sendOrderlyMessage(topic, tag, userCreatedEvent);
}
{
String tag = "UserEnableEvent";
UserEvents.UserEnableEvent userEnableEvent = new UserEvents.UserEnableEvent();
userEnableEvent.setUserId(userId);
userEnableEvent.setUserName("Name-" + userId);
sendOrderlyMessage(topic, tag, userEnableEvent);
}
{
String tag = "UserDisableEvent";
UserEvents.UserDisableEvent userDisableEvent = new UserEvents.UserDisableEvent();
userDisableEvent.setUserId(userId);
userDisableEvent.setUserName("Name-" + userId);
sendOrderlyMessage(topic, tag, userDisableEvent);
}
{
String tag = "UserDeletedEvent";
UserEvents.UserDeletedEvent userDeletedEvent = new UserEvents.UserDeletedEvent();
userDeletedEvent.setUserId(userId);
userDeletedEvent.setUserName("Name-" + userId);
sendOrderlyMessage(topic, tag, userDeletedEvent);
}
}
private void sendOrderlyMessage(String topic, String tag, UserEvents.UserEvent event) {
String shardingKey = String.valueOf(event.getUserId());
String json = JSON.toJSONString(event);
Message<String> msg = MessageBuilder
.withPayload(json)
.build();
String destination = createDestination(topic, tag);
SendResult sendResult = this.rocketMQTemplate.syncSendOrderly(destination, msg, shardingKey, 2000);
log.info("Send result is {} for msg", sendResult, msg);
}
protected String createDestination(String topic, String tag) {
if (org.apache.commons.lang3.StringUtils.isNotEmpty(tag)){
return topic + ":" + tag;
}else {
return topic;
}
}
@AfterEach
void tearDown() {
}
@Test
void getUserEvents() {
this.userIds.forEach(userId ->{
List<UserEvents.UserEvent> userEvents = this.userMessageConsumer.getUserEvents(userId);
Assertions.assertEquals(4, userEvents.size());
Assertions.assertTrue(userEvents.get(0) instanceof UserEvents.UserCreatedEvent);
Assertions.assertTrue(userEvents.get(1) instanceof UserEvents.UserEnableEvent);
Assertions.assertTrue(userEvents.get(2) instanceof UserEvents.UserDisableEvent);
Assertions.assertTrue(userEvents.get(3) instanceof UserEvents.UserDeletedEvent);
});
}
}
启动时,可以看到如下日志:
TagBasedDispatcherConsumerContainer : success to subscribe http://127.0.0.1:9876, topic consumer-test-topic, tag UserCreatedEvent||UserEnableEvent||UserDeletedEvent||UserDisableEvent, group user-message-consumer
从日志上可以看出,框架以组 group user-message-consumer 创建 Consumer,并订阅 consumer-test-topic 的 UserCreatedEvent||UserEnableEvent||UserDeletedEvent||UserDisableEvent 等 Tag,初始化流程符合预期。
测试逻辑比较简单,逻辑如下:
- 创建 100 个用户
- 每个用户创建并依次发布领域事件,UserCreatedEvent、UserEnableEvent、UserDisableEvent、UserDeletedEvent
- 消费发送完成后,停顿 3 秒
- 依次检测每个用户收到的消息,并对顺序进行检测
观察日志,可以看到发送和消费日志交替出现:
UserMessageConsumerTest : Send result is SendResult [sendStatus=SEND_OK, msgId=2408820718EADE005827F0B9E9D4D6D9B98158644D467D38DE4900FD, offsetMsgId=C0A8010A00002A9F00000000056077FB, messageQueue=MessageQueue [topic=consumer-test-topic, brokerName=bogon, queueId=2], queueOffset=1121] for msg
TagBasedDispatcherConsumerContainer : consume 2408820718EADE005827F0B9E9D4D6D9B98158644D467D38DE4700FC cost: 0 ms
用例通过,运行结果符合预期。
3. 设计&扩展
3.1. 初始化流程
image
框架初始化流程如下:
- TagBasedDispatcherConsumerContainerRegistry 实现 Spring 的 BeanPostProcessor 接口,依次对托管 bean 进行处理;
- 如果 Bean 上存在 @TagBasedDispatcherMessageConsumer 注解,便会提取配置信息,构建 TagBasedDispatcherConsumerContainer 实例
- TagBasedDispatcherConsumerContainer 收集方法上的 @HandleTag 注解,结合 @TagBasedDispatcherMessageConsumer 上的 topic、consumer 等信息构建 DefaultMQPushConsumer 并完成 topic 和 tag 的订阅
- TagBasedDispatcherConsumerContainer 内部会构建 tag 与 method 的映射关系,以对指定tag进行处理;
3.2. 运行流程
image
运行流程如下:
- 消息发送者将消息发送至 MQ;
- MQ 将消息发送至 Consumer;
- Consumer 收到消息后,根据 tag 对消息进行分发;
- 处理器对消息进行反序列化,获取调用参数,然后调用方法执行业务逻辑;
4. 项目信息
项目仓库地址:https://gitee.com/litao851025/lego
项目文档地址:https://gitee.com/litao851025/lego/wikis/support/TagBasedDispatcherMessageConsumer
相关推荐
- Whoosh,纯python编写轻量级搜索工具
-
引言在许多应用程序中,搜索功能是至关重要的。Whoosh是一个纯Python编写的轻量级搜索引擎库,可以帮助我们快速构建搜索功能。无论是在网站、博客还是本地应用程序中,Whoosh都能提供高效的全文搜...
- 如何用Python实现二分搜索算法(python二分法查找代码)
-
如何用Python实现二分搜索算法二分搜索(BinarySearch)是一种高效的查找算法,适用于在有序数组中快速定位目标值。其核心思想是通过不断缩小搜索范围,每次将问题规模减半,时间复杂度为(O...
- 路径扫描 -- dirsearch(路径查找器怎么使用)
-
外表干净是尊重别人,内心干净是尊重自己,干净,在今天这个时代,应该是一种极高的赞美和珍贵。。。----网易云热评一、软件介绍Dirsearch是一种命令行工具,可以强制获取web服务器中的目录和文件...
- 78行Python代码帮你复现微信撤回消息!
-
来源:悟空智能科技本文约700字,建议阅读5分钟。本文基于python的微信开源库itchat,教你如何收集私聊撤回的信息。...
- 从零开始学习 Python!2《进阶知识》 Python进阶之路
-
欢迎来到Python学习的进阶篇章!如果你说已经掌握了基础语法,那么这篇就是你开启高手之路的大门。我们将一起探讨面向对象编程...
- 白帽黑客如何通过dirsearch脚本工具扫描和收集网站敏感文件
-
一、背景介绍...
- Python之txt数据预定替换word预定义定位标记生成word报告(四)
-
续接Python之txt数据预定替换word预定义定位标记生成word报告(一)https://mp.toutiao.com/profile_v4/graphic/preview?pgc_id=748...
- Python——字符串和正则表达式中的反斜杠('\')问题详解
-
在本篇文章里小编给大家整理的是关于Python字符串和正则表达式中的反斜杠('\')问题以及相关知识点,有需要的朋友们可以学习下。在Python普通字符串中在Python中,我们用'\'来转义某些普通...
- Python re模块:正则表达式综合指南
-
Python...
- python之re模块(python re模块sub)
-
re模块一.re模块的介绍1.什么是正则表达式"定义:正则表达式是一种对字符和特殊字符操作的一种逻辑公式,从特定的字符中,用正则表达字符来过滤的逻辑。(也是一种文本模式;)2、正则表达式可以帮助我们...
- MySQL、PostgreSQL、SQL Server 数据库导入导出实操全解
-
在数字化时代,数据是关键资产,数据库的导入导出操作则是连接数据与应用场景的桥梁。以下是常见数据库导入导出的实用方法及代码,包含更多细节和特殊情况处理,助你应对各种实际场景。一、MySQL数据库...
- Zabbix监控系统系列之六:监控 mysql
-
zabbix监控mysql1、监控规划在创建监控项之前要尽量考虑清楚要监控什么,怎么监控,监控数据如何存储,监控数据如何展现,如何处理报警等。要进行监控的系统规划需要对Zabbix很了解,这里只是...
- mysql系列之一文详解Navicat工具的使用(二)
-
本章内容是系列内容的第二部分,主要介绍Navicat工具的使用。若查看第一部分请见:...
你 发表评论:
欢迎- 一周热门
- 最近发表
-
- Whoosh,纯python编写轻量级搜索工具
- 如何用Python实现二分搜索算法(python二分法查找代码)
- 路径扫描 -- dirsearch(路径查找器怎么使用)
- 78行Python代码帮你复现微信撤回消息!
- 从零开始学习 Python!2《进阶知识》 Python进阶之路
- 白帽黑客如何通过dirsearch脚本工具扫描和收集网站敏感文件
- Python之txt数据预定替换word预定义定位标记生成word报告(四)
- 假期苦短,我用Python!这有个自动回复拜年信息的小程序
- Python——字符串和正则表达式中的反斜杠('\')问题详解
- Python re模块:正则表达式综合指南
- 标签列表
-
- idea eval reset (50)
- vue dispatch (70)
- update canceled (42)
- order by asc (53)
- spring gateway (67)
- 简单代码编程 贪吃蛇 (40)
- transforms.resize (33)
- redisson trylock (35)
- 卸载node (35)
- np.reshape (33)
- torch.arange (34)
- node卸载 (33)
- npm 源 (35)
- vue3 deep (35)
- win10 ssh (35)
- exceptionininitializererror (33)
- vue foreach (34)
- idea设置编码为utf8 (35)
- vue 数组添加元素 (34)
- std find (34)
- tablefield注解用途 (35)
- python str转json (34)
- java websocket客户端 (34)
- tensor.view (34)
- java jackson (34)