我与消息队列的八年情缘（一）

谈起消息队列，内心还是会有些波澜。

 

消息队列，缓存，分库分表是高并发解决方案三剑客，而消息队列是我最喜欢，也是思考最多的技术。

 

我想按照下面的四个阶段分享我与消息队列的故事，同时也是对我技术成长经历的回顾。

 

  ◆ 初识：ActiveMQ
  ◆ 进阶：Redis&RabbitMQ
  ◆ 升华：MetaQ
  ◆ 钟情：RocketMQ

1 初识ActiveMQ

1.1 异步&解耦

2011年初，我在一家互联网彩票公司做研发。

 

我负责的是用户中心系统，提供用户注册，查询，修改等基础功能。用户注册成功之后，需要给用户发送短信。

 

因为原来都是面向过程编程，我就把新增用户模块和发送短信模块都揉在一起了。 

起初都还好，但问题慢慢的显现出来。

 

  ◆ 短信渠道不够稳定，发送短信会达到5秒左右，这样用户注册接口耗时很大，影响前端用户体验;

 

  ◆ 短信渠道接口发生变化，用户中心代码就必须修改了。但用户中心是核心系统。每次上线都必要谨小慎微。这种感觉很别扭，非核心功能影响到核心系统了。

 

第一个问题，我可以采取线程池的方法来做，主要是异步化。但第二个问题却让我束手无措。

 

于是我向技术经理请教，他告诉我引入消息队列去解决这个问题。

 

  ◆ 将发送短信功能单独拆成独立的Job服务;

  ◆ 用户中心用户注册成功后，发送一条消息到消息队列，Job服务收到消息调用短信服务发送短信即可。
这时，我才明白: 消息队列最核心的功能就是异步和解耦。

 

1.2 调度中心

彩票系统的业务是比较复杂的。在彩票订单的生命周期里，经过创建，拆分子订单，出票，算奖等诸多环节。每一个环节都需要不同的服务处理，每个系统都有自己独立的表，业务功能也相对独立。假如每个应用都去修改订单主表的信息，那就会相当混乱了。

 

公司的架构师设计了调度中心的服务，调度中心的职责是维护订单核心状态机，订单返奖流程，彩票核心数据生成。 

调度中心通过消息队列和出票网关，算奖服务等系统传递和交换信息。

 

这种设计在那个时候青涩的我的眼里，简直就是水滴vs人类舰队，降维打击。

 

随着我对业务理解的不断深入，我隐约觉得：“好的架构是简洁的，也是应该易于维护的”。

 

当彩票业务日均千万交易额的时候，调度中心的研发维护人员也只有两个人。调度中心的源码里业务逻辑，日志，代码规范都是极好的。

 

在我日后的程序人生里，我也会下意识模仿调度中心的编码方式，“不玩奇技淫巧，代码是给人阅读的”。

 

1.3 重启大法

随着彩票业务的爆炸增长，每天的消息量从30万激增到150~200万左右，一切看起来似乎很平稳。

 

某一天双色球投注截止，调度中心无法从消息队列中消费数据。消息总线处于只能发，不能收的状态下。整个技术团队都处于极度的焦虑状态，“要是出不了票，那可是几百万的损失呀，要是用户中了两个双色球？那可是千万呀”。大家急得像热锅上的蚂蚁。

 

这也是整个技术团队第一次遇到消费堆积的情况，大家都没有经验。

 

首先想到的是多部署几台调度中心服务，部署完成之后，调度中心消费了几千条消息后还是Hang住了。这时，架构师只能采用重启的策略。你没有看错，就是重启大法。说起来真的很惭愧，但当时真的只能采用这种方式。

 

调度中心重启后，消费了一两万后又Hang住了。只能又重启一次。来来回回持续20多次，像挤牙膏一样。而且随着出票截止时间的临近，这种思想上的紧张和恐惧感更加强烈。终于，通过1小时的手工不断重启，消息终于消费完了。

 

我当时正好在读毕玄老师的《分布式java应用基础与实践》，猜想是不是线程阻塞了，于是我用Jstack命令查看堆栈情况。果然不出所料，线程都阻塞在提交数据的方法上。我们马上和DBA沟通，发现oracle数据库执行了非常多的大事务，每次大的事务执行都需要30分钟以上，导致调度中心的调度出票线程阻塞了。

 

技术部后来采取了如下的方案规避堆积问题：

 

1.生产者发送消息的时候，将超大的消息拆分成多批次的消息，减少调度中心执行大事务的几率;

 

2.数据源配置参数，假如事务执行超过一定时长，自动抛异常，回滚。

1.4 复盘

Spring封装的ActiveMQ的API非常简洁易用，使用过程中真的非常舒服。

 

受限于当时彩票技术团队的技术水平和视野，我们在使用ActiveMQ中遇到了一些问题。

 

1.高吞吐下，堆积到一定消息量易Hang住；

技术团队发现在吞吐量特别高的场景下，假如消息堆积越大，ActiveMQ有较小几率会Hang住的。

 

出票网关的消息量特别大，有的消息并不需要马上消费，但是为了规避消息队列Hang住的问题，出票网关消费数据的时候，先将消息先持久化到本地磁盘，生成本地XML文件，然后异步定时执行消息。通过这种方式，我们大幅度提升了出票网关的消费速度，基本杜绝了出票网关队列的堆积。

 

但这种方式感觉也挺怪的，消费消息的时候，还要本地再存储一份数据，消息存储在本地，假如磁盘坏了，也有丢消息的风险。

 

2.高可用机制待完善

 

我们采用的master/slave部署模式，一主一从，服务器配置是4核8G 。

 

这种部署方式可以同时运行两个ActiveMQ， 只允许一个slave连接到Master上面，也就是说只能有2台MQ做集群，这两个服务之间有一个数据备份通道，利用这个通道Master向Slave单向地数据备份。这个方案在实际生产线上不方便， 因为当Master挂了之后， Slave并不能自动地接收Client发来的请来，需要手动干预，且要停止Slave再重启Master才能恢复负载集群。

 

还有一些很诡异丢消息的事件，生产者发送消息成功，但master控制台查询不到，但slave控制台竟然能查询到该消息。

 

但消费者没有办法消费slave上的消息，还得通过人工介入的方式去处理。

 

2 进阶Redis&RabbitMQ

2014年，我在艺龙网从事红包系统和优惠券系统优化相关工作。

 

2.1 Redis可以做消息队列吗

酒店优惠券计算服务使用的是初代流式计算框架Storm。Storm这里就不详细介绍，可以参看下面的逻辑图： 

这里我们的Storm集群的水源头（数据源）是redis集群，使用list数据结构实现了消息队列的push/pop功能。 

流式计算的整体流程：

 

1.酒店信息服务发送酒店信息到Redis集群A/B;
2.Storm的spout组件从Redis集群A/B获取数据, 获取成功后，发送tuple消息给Bolt组件;
3.Bolt组件收到消息后，通过运营配置的规则对数据进行清洗;
4.最后Storm把处理好的数据发送到Redis集群C;
5.入库服务从Redis集群C获取数据,存储数据到数据库;
6.搜索团队扫描数据库表，生成索引。

storm说明

这套流式计算服务每天处理千万条数据，处理得还算顺利。但方案在团队内部还是有不同声音:

 

  ◆ storm的拓扑升级时候，或者优惠券服务重启的时候，偶尔出现丢消息的情况。但消息的丢失，对业务来讲没有那么敏感，而且我们也提供了手工刷新的功能，也在业务的容忍范围内;
  ◆ 团队需要经常关注Redis的缓存使用量，担心Redis队列堆积, 导致out of memory;
  ◆ 架构师认为搜索团队直接扫描数据库不够解耦，建议将Redis集群C替换成Kafka，搜索团队从kafka直接消费消息，生成索引;

 

我认为使用Redis做消息队列应该满足如下条件：

 

1.容忍小概率消息丢失，通过定时任务/手工触发达到最终一致的业务场景;
2.消息堆积概率低，有相关的报警监控;
3.消费者的消费模型要足够简单。

2.2 RabbitMQ是管子不是池子

RabbitMQ是用erlang语言编写的。RabbitMQ满足了我的两点需求：

 

1.高可用机制。艺龙内部是使用的镜像高可用模式，而且这种模式在艺龙已经使用了较长时间了，稳定性也得到了一定的验证。

 

2.我负责的红包系统里，RabbitMQ每天的吞吐也在百万条消息左右，消息的发送和消费都还挺完美。

 

优惠券服务原使用SqlServer，由于数据量太大，技术团队决定使用分库分表的策略，使用公司自主研发的分布式数据库DDA。 

因为是第一次使用分布式数据库，为了测试DDA的稳定性，我们模拟发送1000万条消息到RabbitMQ，然后优惠券重构服务消费消息后，按照用户编号hash到不同的mysql库。

 

RabbitMQ集群模式是镜像高可用，3台服务器，每台配置是4核8G 。

 

我们以每小时300万条消息的速度发送消息，最开始1个小时生产者和消费者表现都很好，但由于消费者的速度跟不上生产者的速度，导致消息队列有积压情况产生。第三个小时，消息队列已堆积了500多万条消息了， 生产者发送消息的速度由最开始的2毫秒激增到500毫秒左右。RabbitMQ的控制台已血溅当场，标红报警。

 

这是一次无意中的测试，从测试的情况来看，RabbitMQ很优秀，但RabbitMQ对消息堆积的支持并不好，当大量消息积压的时候，会导致 RabbitMQ 的性能急剧下降。

 

有的朋友对我讲：“RabbitMQ明明是管子，你非得把他当池子？”

 

随着整个互联网数据量的激增, 很多业务场景下是允许适当堆积的，只要保证消费者可以平稳消费，整个业务没有大的波动即可。

 

我心里面越来越相信：消息队列既可以做管子，也可以当做池子。