MQ系列10：如何保证消息幂等性消费

1 介绍

我们实际系统中有很多操作，不管你执行多少次，都应该产生一样的效果或返回一样的结果。 例如：

• 前端页面重复提交选中的数据，服务端只产生对应这个数据的一个反应结果，只保存一次数据。
• 我们发起一笔付款请求，也只能扣用户账户一次钱，即使遇到网络重发或系统bug重发，也应该只扣一次金额。
• 消息通知，也应该只能收到一次，如果收到多次的扣款通知短信，会让用户误解的。
• 创建商品订单，一次业务请求只能创建一个，创建多个就会变成购买多次，就会出问题。

以上等等很多重要的场景，都需要幂等的特性来支持。

幂等（idempotent、idempotence）是一个数学与计算机学概念，常见于抽象代数中。 在编程中.一个幂等操作的特点是其任意多次执行所产生的影响均与一次执行的影响相同。幂等函数，或幂等方法，是指可以使用相同参数重复执行，并能获得相同结果的函数。这些函数不会影响系统状态，也不用担心重复执行会对系统造成改变。
例如，“getUserSex()和setRight()”函数就是一个幂等函数，包括数据库中的查询和删除也是一样的道理，它是天然幂等的。总之，幂等就是一个操作，不论执行多少次，产生的效果和返回的结果都是一样的 。

2 消息队列中如何保证幂等性

2.1 消息队列的基本构成

我们先来回顾下 Message Queue的构成，这边以RocketMQ为例子：
RocketMQ主要有四大核心组成部分：NameServer、Broker、Producer以及Consumer四部分。

• NameServer：Name Server是一个几乎无状态节点，可集群部署，节点之间无任何信息同步。NameServer 是整个 RocketMQ 的 "中央大脑 " ，它是 RocketMQ 的服务注册中心，所以 RocketMQ 需要先启动 NameServer 再启动 Rocket 中的 Broker。
• Broker：消息服务器，作为Server提供消息核心服务, 它接收并存储Producer生产的消息，也提供消息给Consumer消费。Broker一般会分主从，Master 可读可写，Slave 只读。
• Producer：消息生产者，消息的发送方，负责生产消息传输给broker。RocketMQ提供了发送：同步、异步和单向（one-way）的多种模式。
• Consumer：消息消费者，消息的处理方，负责从broker获取消息并进行业务逻辑处理。
  另外其他如 Topic、 Message，也是重要的组成部分：
• Topic：主题，发布/订阅模式下的消息统一汇集地，不同生产者向topic发送消息，由MQ服务器分发到不同的订阅者，实现消息的广播
• Message：消息体，根据不同通信协议定义的固定格式进行编码的数据包，来封装业务数据，实现消息的传输。

2.2 消息队列的幂等分析

可以看出，消息发送和消息消费两个步骤是有可能产生消息不幂等的问题。
为保证消息的正确性发送，超时重试、异常重试、消费完成确认机制等能力都是可以使用，并对业务产生影响的。
我们举个例子，如果你购买一件商品，用户付款完成之后，通过MQ消息的异步通知，告知下游服务出库和通知。如果消息通知出现了问题或者下游消息消费出现了问题，导致无法ACK，都有可能导致重复的出库和通知。

2.2.1 消息生产的幂保证

MQ消息生产部分，就是下图中的步骤1、步骤2、步骤3：

• 步骤1：消息生产端 MQ-Client Producer 将消息发给服务端MQ-server
• 步骤2：消息队列服务 MQ-Server 将消息持久化存储
• 步骤3：息队列服务 MQ-Server 返回确认信息（ACK \ CONSUME_SUCCESS \ offset）给消息生产端 MQ-Client Producer

如果3 消息确认故障导致消息丢失，则消息生产端 MQ-Client Producer 超时后会重发消息，这时候可能就有重复消息，如何保证幂等呢？
因为消息重发也是MQ-Client Producer发起的，消息的处理是消息队列的服务MQ-Server处理的，MQ-Server将数据进行了持久化么，这时候我们可以设计一个唯一的 msgId，作为去重的依据，无论重发多少次，msgId都是一样的，然后在DB数据库中将这个msgId设置为unique key，不允许重复，他有如下特性：

• 全局唯一，不允许重复
• MQ生成与业务无耦，对消息的生产和消费也是无强相关。

使用这个 msgId，可以保证只有1条消息落地到数据库中，就保证了消息生产端的幂等。

2.2.2 消息消费的幂保证

MQ消息消费部分，就是下图中的步骤4、步骤5、步骤6：

• 步骤4：消息队列服务 MQ-Server 将消息发给给消费端 MQ-Client Consumer
• 步骤5：消费端 MQ-Client Consumer 返回确认信息 （ACK \ CONSUME_SUCCESS \ offset） 给 消息队列服务
• 步骤6：消息队列服务 MQ-Server 将持久化的消息数据删除，根据msgId精确删除

★ 说明：以上步骤须做一致性保障

这边重灾区就是步骤5，如果因为故障导致消息丢失，消息队列服务 MQ-Server 在超时后会重发消息，这样 MQ-Client Producer/Consumer 就会重复收到消息。
因为消息重发是 消息队列服务 MQ-Server 发起的，MQ-Client Consumer 负责消息消费，消息重发必然会导致业务重复消费（比如重复发消息、重复出库）。所以一样的道理，必然使用msgId来做判断，如果存在库中就进行消费，然后精确删除库中的数据。如果数据库中不存在，就忽略，避免重复消费。
同样的，这个msgID的特性如下：

• 全局唯一，不允许重复
• MQ生成与业务无耦，对消息的生产和消费也是无强相关。
• 业务消息消费方 MQ-Client Consumer 负责判重，保证幂等性

这种方式最常见应用在：商品下单、消费支付、帖子点赞和留言等。

2.3 总结说明

无论是何种消息队列，造成重复消费原因其实都是类似的。正常情况下，消费者在消费消息时候，消费完毕后，会发送一个确认信息给消息队列，消息队列就知道该消息被消费了，就会将该消息从消息队列中删除，类似上面提到的架构。
不同的消息队列发送的确认信息形式不同,例如：

• RabbitMQ是发送一个ACK确认消息
• RocketMQ是返回一个CONSUME_SUCCESS成功标志
• kafka实际上有个offset的概念，每一个消息都有一个offset，kafka消费过消息后，需要提交offset，让消息队列知道自己已经消费过了。

造成重复消费的原因可能有网络传输、程序bug等问题，确认信息没有传送到消息队列，导致消息队列不知道自己已经消费过该消息了，再次将该消息分发给其他的消费者。
解决方案主要有如下几点：

• 给消息做唯一键，做数据库insert的时候，如果出现重复消费情况，会导致主键冲突，避免数据库出现脏数据。这是咱们上面提到的那种方案。
• update 和 delete 支持天然幂等性，拿到这个消息做redis的set的操作，就无需解决，这类操作天然幂等。
• 使用第三方介质来做消费记录。比如redis，给消息分配一个全局id，只要消费过该消息，将<id,message>以K-V形式写入redis。在Consumer开始消费前，先去redis中查询有没消费记录即可，有消费记录则跳过。

文章转载自公众号：  架构与思维