别看唐探了,Q(ueue)的真相在这里(一)

发布于 2022-5-26 18:37
浏览
0收藏

 

第一话

回答得不错,但这不是我想要的答案,回去等通知吧

 别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区
这是一个困扰我司由来已久的问题,近年来随着我司业务的急遽发展,单表数据量越来越大,这样会导致读写性能急遽下降,自然而然的我们想到了分库分表,不过众所周知分库分表规则比较复杂,而且业务代码可能需要大改(由于数据分布在不同的库表里,业务需要判断到底去哪些表取数,并且取完后需要将数据再聚合在一起返回前端),所以经过横向对比我们采用了阿里开源的分库分表中间件 Cobar,这样的话一来 Cobar 根据我们设定的规则分库分表了,二来原来调用 SQL 的地方只需改成调用 Cobar 即可,Cobar 会自动根据我们写的 SQL 去各个分库分表里查询并将结果返回给我们,我们业务层的代码几乎不需要改动(即对应用是透明的) 如图示:使用 cobar 进行分库分表后,可以看到业务代码几乎不需要改动
 别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区
所以问题是?
 别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区
使用 Cobar 确实解决了分库分表和对业务代码侵入性的问题,但由于又引入了一个中间层,导致可用性降低,为了防止 Cobar 不可用等造成的影响,我们需要监控 Cobar 的各项性能指标,如 SQL 执行时间,是否失败,返回行数等,这样方便我们分析 Cobar 的各项指标,这就是我们常说的 SQL 审计(记录数据库发生的各种事件),那怎么样才能高效记录这些事件而又不对执行业务代码的线程造成影响呢?
 别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区
要记录上报这些审计事件,肯定不能在执行业务代码的线程里执行,因为这些事件属于业务无关的代码,如果在业务线程里执行,一来和业务代码藕合,二来如果这些审计事件传输(记录审计事件总要通过磁盘或网络记录下来)遇到瓶颈会对正常的业务逻辑造成严重影响。我们可以修改一下 cobar 代码,在 cobar 里的执行逻辑中拿到这些事件后,把这些事件先缓存在队列中,让另外的线程从这些队列里慢慢取出(消费),然后再将这些数据上报,这样业务线程可以立即返回执行其他正常的业务逻辑。 

别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区

注:虚线部分为对 cobar 中间件的改造,业务调用是无感知的如图示,主要步骤如上图所示

  1. 客户端请求后执行 cobar
  2. cobar 执行后将「执行时间」,「是否失败」,「返回行数」等写入队列
  3. 写入队列后业务线程立即返回(非阻塞),然后可以执行正常的业务逻辑
  4. 后台线程则不断取出 event 通过 UDP 传给另外一个机器,写入 kafka 进行上报
     别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区
    小伙子不错啊,一看这架构图就知道有点东西,但我这里有点疑问,在第二步中,为啥不把 SQL 审计的那些指标直接写入 kafka 呢,如下 kafaka 不是号称写入性能可达几十甚至上百万吗,像上述这样实现架构上实现不是更简单吗
     别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区kafaka 不是号称写入性能可达几十甚至上百万吗,像上述这样实现架构上实现不是更简单吗

别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区
这是个很好的问题,有以下两个原因

  1. 我们是对 cobar 工程本身进行修改,然后将其打成 jar 包再集成到应用程序中来的,如果采用上面的设计,那就意味着要在 cobar 工程中引入对 kafka 的依赖,而我们只想对 cobar 作少量的修改,不想依赖太多第三方的库
  2. 这也是最重要的,引入 kafka 有可能会阻塞业务线程,在 kafka Producer 中,设计了一个消息缓冲池,客户端发送的消息首先会被存储到缓冲池中,同时 Producer 启动后还会启动一个 sender 线程不断地获取缓冲池中的消息将其发送到 Broker 中
     别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区
    如图示,我们在构建 kafka producer 时,会有一个自定义缓冲池大小的参数 buffer.memory,默认大小为 32M,因此缓冲池的大小是有限制,那如果这个缓存池满了怎么办,RecordAccumulator 是 Kafaka 缓冲池的核心类,官方对其注释写得非常清楚

The accumulator uses a bounded amount of memory and append calls will block when that memory is exhausted, unless this behavior is explicitly disabled.
也就是说如果缓存池满 了,消息追加调用将会被阻塞,直到有空闲的内存块,这样的话只要 Kafka 集群负载很高或者网络稍有波动,Sender 线程从缓冲池捞取消息的速度赶不上客户端发送的速度,就会造成客户端(也就是 Cobar 执行线程)发送被阻塞,这样的话可能导致线上几乎所有接口调用雪崩,系统不可用,导致严重的灾难!

而原来的设计看似复杂,但实际上符合软件设计中的分层原则,这样的设计有两个好处,如下图示:

 别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区

  1. 首先 Cobar 执行线程将审计信息丢给队列后立即返回,我们只要设计这样的不阻塞高效的队列即可
  2. 后台线程取出后通过 UDP 传给另外的 agent,Cobar 执行线程所在的 JVM 和 agent 的 JVM 是不同的(毕竟部署在不同的机器上),做到了 JVM 的隔离,也更安全,使用了分层设计,看似更复杂,但这样的系统更健壮
     别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区
    小伙子果然有两把刷子,单独拎出上图的 cobar 执行线程与后台线程通过队列通信的模块,可以看到它就是个典型的生产者消费者模型

 别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区
所以现在问题的关键就转化为如何设计这样的队列了,它要满足两个条件

  1. cobar 执行线程写入队列无论如何都不会阻塞
  2. 写入队列要足够快(吞吐率要高),毕竟我司是大厂,巅峰期可能会达到每秒几万的 QPS
     别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区
    没错,不愧是大佬,一眼看透问题的本质,只要能设计好这样的队列,所有问题就迎刃而解了
     别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区
    恩,那你就来谈谈如何设计这样的队列吧。
     别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区
    虽然我心中已经有数,但为了展示我高超的吹牛对队列熟练运用的能力,我决定由浅入深地来讲解一下队列的演进史,这样可以把队列的选型了解得明明白白
     别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区
    你高兴就好。
     别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区
    高性能队列的实现思路
    1.队列的表示:数组 or 链表?
    队列(Queue)是一种线性表,是一种先进先出的数据结构,主要由数组和链表组成,队列只允许在后端(称为 rear)进行插入操作,在前端(称为 front)进行删除操作

别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区

 队列的两种表现形式

使用数组或链表优缺点都很明显,但总的来说数组的执行效率更高,为啥,这里简单介绍下 CPU 的运行原理,由于内存太慢,所以在 CPU 和 内存间设置了多道缓存(L1,L2,L3三级缓存,其中 L1,L2 缓存为每个 CPU 核独有的, L3是共享的)以提升 CPU 的执行效率,CPU 执行取数时,先从 L1查找,没有再从 L2查找,L2 没有则从 L3,查找,L3还是没有的话就会从内存加载。

但需要注意的是,CPU 从内存加载数据时并不是以字节为单位加载,它是以 cacheline 的形式来加载的,cacheline 是从内存加载或写入的最小单位,在 X86 架构中,一个cacheline 由内存里连续的 64 个 byte组成的,而数组是在内存里连续分配的,所以它一次性能被加载多个数据到 cache 中,而链表中 node 的空间是分散在非连续的内存地址空间中,所以总的来说数组由于利用了 cache line 的连续加载特性对缓存更友好,性能会更好, 所以假如执行线程要取数组中的 1,它并不会只取 1,而会把包含 1 在内的 8 个数据一起加载到 Cache 中,如下图示:

 别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区
链表对扩容更友好?
这应该是不少人支持使用链表的一个重要原因了,如果空间不够大,需要扩容怎么办,对于链表来说,很简单,在 rear 结点后新增一个节点,将 rear 结点的 next 指针指向它即可,非常方便,但对于数组来说就没那么容易了,它需要先生成一个原来 n(一般是 2) 倍大小的新数组,再把老数组里的数据给移过去,如下图所示

 别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区
如果光从扩容这一角度来看,确实链表更优秀,但我们不要忘了消费者消费完后是要把链表对应的节点给释放掉的,在高并发下,就会造成频繁的 GC,造成严重的性能影响

 别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区
估计有人就会反驳了,如果数组中的元素被消费完了,难道不要被移除?这样的话岂不是也会存在高并发下的频繁 GC?总不能一开始给这个数组分配一个无限大的空间吧,这样的话就成了无界队列,还没等你数组填满就 OOM 了。

这是个好问题,实际上对于数组来说,我们可以使用一个小 trick,既可以让它变成有界(即固定大小,无需扩容)数组,也可以避免频繁 GC,更可以避免数组扩容带来的性能问题,怎么做,将线性数组改造成循环数组(RingBuffer)

 别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区
如图示,假设数组的初始化大小为 7,当生产者把数组的七个元素都填满时(此时 0,1,2三个元素已经被消费者消费完了),如果生产者还想再填充数据,由于 0,1,2对应的三位元素已经被消费了,属于过期无效的元素了,所以生产者可以从头开始往里填充元素,只要不超过消费者的进度即可,同理,如果消费者对应的指针达到数组的末端,下一次消费也就回到数组下标 0 开始消费,只要不超过生产者进度即可。

我们将数组的首尾拼接就形成了一个 ringbuffer

别看唐探了,Q(ueue)的真相在这里(一)-开源基础软件社区

 ringbuffer

可能有人会说绕圈了怎么定位数组的具体下标?对数组大小取模即可,生产者/消费者对应的数组下标都是累加的,以以上情况为例,当前生产者的下标为 6,下一个待插入的下标就是 7,而当前数组大小为 7,于是 7 对应的数组下标即为 7%7 = 0,与实际相符。但需要注意的是取模操作是个很昂贵的操作,所以我们可以用位运算来代替,位运算要求数组的大小为 2^n(想想为什么),于是取模操作可以用 index & (2^n -1 ) 来代替(index 为 生产者/消费者对应的下标)。

综上,设计一个这样大小为 2^n(这里有两层含义,一是大小为 2^n,二是数组有界) 且由数组表示的 ringbuffer 有「对缓存友好」,「对 GC 友好」两个重要特性,在高并发下对性能的提升是非常有帮助的。

 

文章转自公众号:码海

分类
标签
已于2022-5-26 18:37:58修改
收藏
回复
举报
回复
添加资源
添加资源将有机会获得更多曝光,你也可以直接关联已上传资源 去关联
    相关推荐