高速飞机上换引擎,MQ如何实现平滑迁移?

2019 年 8 月 8 日 架构师之路

前几天,杨紫琼同学在知识星球提问,说公司要切换MQ,从一个旧的服务商升级为新的服务商,问有没有什么好方案。

这个需求估计还挺普遍的,这里分享一些经验。
 
一、MQ架构简述
如上图,使用MQ异步通信,一般分为三层
消息发送方 :使用MQ客户端生成消息。

MQ-client::SendMsg(topic, msg);

 
MQ服务 :中转消息。
 
消息接收方 :使用MQ客户端消费消息。

MQ-client::RecvMsg(topic, msg, CALLBACK_FUNC);

 
这是一个典型的pub-sub架构,如果要替换MQ供应商,至少 三个地方要替换
  • 发送方mq-client

  • MQ-server

  • 接收方mq-client

如何平滑迁移,是今天要讨论的话题。
 
二、平滑迁移方案
平滑迁移的目标是: 不停服,平滑升级
 
如果有很多主题,需要一个一个主题的迁移,每个主题的迁移,分为三个步骤
 
步骤一:消费方双向订阅
如上图所示,不妨设:
  • 粉色是旧MQ体系

  • 蓝色是新MQ体系

平滑迁移最终目的,是“发布-服务-订阅”三层全由粉色升级为蓝色。
 
第一步升级消费方,同一个主题,既要订阅旧MQ,又要订阅新MQ
 
此时,“新服务-新订阅”之间虽然有TCP连接,但“新发布”没有上线,实际上不会有消息发送过来(上图虚线),消息仍走的是旧MQ(上图实线)。
 
步骤二:生产方升级为新发布
第二步升级生产方,由旧MQ发布,升级为新MQ发布
 
此时,“新发布-新服务-新订阅”之间会建立TCP连接,消息会转移到新通道(上图实线),“旧服务-旧订阅”之间虽然有TCP连接,但实际不会有消息发送过来(上图虚线)。
 
步骤三:消费方下线旧订阅
第三步升级消费方,将旧订阅下线,整个MQ的迁移完成
 
三、架构启示
MQ更换服务商,蚂蚁搬家,一步步平滑迁移,成本其实还挺高的。
 
之所以这么麻烦,不能统一升级,本质是 业务与底层基础设施细节 (即,具体使用哪个MQ)的 耦合 。如果公司在早期技术体系规划的时候,能够“浅浅的封装一层”,便能隔离“业务代码”与“底层基础设施细节”。
 
举个更通俗的例子。
 
假如没有封装一层,业务代码是:

ActiveMQ-client::SendMsg(topic, msg);

ActiveMQ-client::RecvMsg(topic, msg, CALLBACK_FUNC);

即,业务方需要关心ActiveMQ,如果基础设施升级为RabbitMQ,业务代码需要升级。
 
假如有一层浅浅的封装

ShenJianMQ::SendMsg(topic, msg){

ActiveMQ-client::SendMsg(topic,msg);

}

 

ShenJianMQ::RecvMsg(topic, msg,CALLBACK_FUNC)

ActiveMQ-client::RecvMsg(topic,msg, CALLBACK_FUNC);

}

业务方不需要关心底层是什么MQ ,而只需要依赖基础组件ShenJianMQ。
 
此时如果基础设施升级为RabbitMQ,只需要基础组件ShenJianMQ升级。
第一步:RecvMsg升级为双向订阅。

ShenJianMQ::RecvMsg(topic, msg,CALLBACK_FUNC)

ActiveMQ-client::RecvMsg(topic, msg, CALLBACK_FUNC);

RabbitMQ-client::RecvMsg(topic, msg, CALLBACK_FUNC);

}

 
第二步:SendMsg升级为新发布。

ShenJianMQ::SendMsg(topic, msg){

RabbitMQ-client::SendMsg(topic, msg);

}

 
第三步:RecvMsg下线旧订阅。

ShenJianMQ::RecvMsg(topic, msg,CALLBACK_FUNC)

RabbitMQ-client::RecvMsg(topic, msg, CALLBACK_FUNC);

}

 
会发现,除了升级依赖新版的ShenJianMQ基础组件, 业务代码不需要修改代码
 
不仅 MQ,缓存与数据库的客户端,浅浅封装一层 也能实现业务代码与基础组件的解耦,在基础组建替换,或者基础组建升级的时候,业务代码不需要升级。
画外音:浅浅封装一层之后,监控/告警/数据收集等工作都更容易统一实现了。
 
关于是使用开源,还是浅浅封装,还是自研,《基础组件,究竟要不要自研?》有更加详尽的讨论。
 
关于MQ平滑迁移的问题,先聊这么多,希望能解答杨紫琼同学的问题。

知识星球-刚开始玩

刚开始玩知识星球,欢迎大家提问。
画外音:所有提问都会细心解答(如这一篇)。
上次开放了200个名额一下就满了,再开放500个名额(人不宜太多,怕解答不过来)。


相关推荐
基础组件,究竟要不要自研?
什么时候不能使用MQ
究竟什么时候使用MQ
MQ消息可达性+幂等性+延时性架构设计

调研
贵司有浅浅封装?还是自研?还是原生耦合?

登录查看更多
1

相关内容

【CVPR2020-北京大学】自适应间隔损失的提升小样本学习
专知会员服务
83+阅读 · 2020年6月9日
Python导论,476页pdf,现代Python计算
专知会员服务
259+阅读 · 2020年5月17日
【CVPR2020】用多样性最大化克服单样本NAS中的多模型遗忘
【北京大学】面向5G的命名数据网络物联网研究综述
专知会员服务
36+阅读 · 2020年4月26日
【SIGMOD2020-腾讯】Web规模本体可扩展构建
专知会员服务
29+阅读 · 2020年4月12日
【干货书】数值计算C编程,319页pdf,Numerical C
专知会员服务
67+阅读 · 2020年4月7日
【干货书】流畅Python,766页pdf,中英文版
专知会员服务
224+阅读 · 2020年3月22日
工行基于MySQL构建分布式架构的转型之路
炼数成金订阅号
15+阅读 · 2019年5月16日
数据库之架构:主备+分库?主从+读写分离?
架构文摘
8+阅读 · 2019年4月23日
亿级订单数据的访问与存储,怎么实现与优化?
码农翻身
16+阅读 · 2019年4月17日
车路协同构建“通信+计算”新体系
智能交通技术
11+阅读 · 2019年3月26日
使用 Canal 实现数据异构
性能与架构
20+阅读 · 2019年3月4日
如何用GitLab本地私有化部署代码库?
Python程序员
9+阅读 · 2018年12月29日
蚂蚁金服微服务实践(附演讲PPT)
开源中国
18+阅读 · 2018年12月21日
无人驾驶汽车
劲说
6+阅读 · 2016年8月26日
Arxiv
101+阅读 · 2020年3月4日
Knowledge Distillation from Internal Representations
Arxiv
4+阅读 · 2019年10月8日
Arxiv
6+阅读 · 2019年4月4日
Attend More Times for Image Captioning
Arxiv
6+阅读 · 2018年12月8日
VIP会员
相关VIP内容
【CVPR2020-北京大学】自适应间隔损失的提升小样本学习
专知会员服务
83+阅读 · 2020年6月9日
Python导论,476页pdf,现代Python计算
专知会员服务
259+阅读 · 2020年5月17日
【CVPR2020】用多样性最大化克服单样本NAS中的多模型遗忘
【北京大学】面向5G的命名数据网络物联网研究综述
专知会员服务
36+阅读 · 2020年4月26日
【SIGMOD2020-腾讯】Web规模本体可扩展构建
专知会员服务
29+阅读 · 2020年4月12日
【干货书】数值计算C编程,319页pdf,Numerical C
专知会员服务
67+阅读 · 2020年4月7日
【干货书】流畅Python,766页pdf,中英文版
专知会员服务
224+阅读 · 2020年3月22日
相关资讯
工行基于MySQL构建分布式架构的转型之路
炼数成金订阅号
15+阅读 · 2019年5月16日
数据库之架构:主备+分库?主从+读写分离?
架构文摘
8+阅读 · 2019年4月23日
亿级订单数据的访问与存储,怎么实现与优化?
码农翻身
16+阅读 · 2019年4月17日
车路协同构建“通信+计算”新体系
智能交通技术
11+阅读 · 2019年3月26日
使用 Canal 实现数据异构
性能与架构
20+阅读 · 2019年3月4日
如何用GitLab本地私有化部署代码库?
Python程序员
9+阅读 · 2018年12月29日
蚂蚁金服微服务实践(附演讲PPT)
开源中国
18+阅读 · 2018年12月21日
无人驾驶汽车
劲说
6+阅读 · 2016年8月26日
相关论文
Top
微信扫码咨询专知VIP会员