三歪连MySQL大表怎么DDL变更都不懂

发布于 2022-4-19 15:17
浏览
0收藏

作者 | 敖丙

来源 | 敖丙(ID:JavaAudition)

转载请联系授权(微信ID:Aobingcool)

前言

随着业务的发展,用户对系统需求变得越来越多,这就要求系统能够快速更新迭代以满足业务需求,通常系统版本发布时,都要先执行数据库的DDL变更,包括创建表、添加字段、添加索引、修改字段属性等。

在数据量大不大的情况下,执行DDL都很快,对业务基本没啥影响,但是数据量大的情况,而且我们业务做了读写分离,接入了实时数仓,这时DDL变更就是一个的难题,需要综合各方业务全盘考虑。

下面就聊聊这些年我公司在里面,MySQL中的DDL执行方式的变化、大表DDL该如何选择以及DDL执行过程监控。

MySQL中的DDL
DDL概述
MySQL中的DDL语句形式比较多,概括一下有以下几类:CREATE,ALTER,DROP,RENAME,TRUNCATE。

这些操作都是隐式提交且原子性,要么成功,要么失败,在MySQL 8.0之前DDL操作是不记录日志的。

今天就聊一下跟系统版本发布相关的数据库结构变更,主要就是ALTER TABLE变更了,DDL变更流程普通的DML变更是类似的,如下所示三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区注:这里涉及MySQL基础知识,还不知道的朋友翻看下我MySQL基础章节即可。

在早期的MySQL版本,DDL变更都会导致全表被锁,阻塞表上的DML操作,影响业务正常运行,好的一点就是,随着MySQL版本的迭代,DDL的执行方式也在变化。

MetaData元数据
MySQL的元数据(MetaData)跟其他的RDBMS数据库一样的,描述的对象的结构信息,存储在information_schema架构下,例如常见的TABLES、COLUMNS等,下面例子是创建一个表crm_users,MySQL会自动往Information_schema.tables和columns等相关数据字典表中插入数据,这些数据称为元数据,一般都是静态化,只有表上发生了DDL操作才会实时更新。三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区MetaData Lock
MySQL利用MetaData Lock来管理对象的访问,保证数据的一致性,对于一些核心业务表,表上DML操作比较频繁,这个时候添加字段可能会触发MetaData Lock。三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区可以看到Waiting for table metadata lock等待事件,thread 155正在执行alter table等待thread 154执行的select释放锁,因为DML在执行期间会持有SHARED_READ锁,要执行DDL时获取SHARED_UPGRADABLE(共享可升级锁,缩写为SU,允许并发更新和读同一个表)锁成功,但是获取EXCLUSIVE MetaData Lock锁失败,处于暂挂PENDING状态。

DDL执行方式
从MySQL官方文档可以看到,ALTER TABLE的选项很多,跟性能相关的选项主要有ALGORITHM和LOCK。三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区从这张表可以看到,MySQL对于DDL执行方式一直在做优化,目的就是为了提高DDL执行效率,减少锁等待,不影响表数据,同时不影响正常的DML操作。

LOCK选项

三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区下面举例说明下这几种方式的执行过程,先创建测试表,制造一些数据。三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区COPY
COPY方式的变更流程如下:三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区根据业务需要,需要在crm_users添加一个字段user_type,采用COPY方式执行变更。三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区

三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区

从执行过程及profile可以看出,通过COPY方式会创建临是表#sql-564_85,获取System Lock,拷贝数据到临时表,最后做rename表名切换,释放Lock资源,在执行期间不支持并发DML操作。

INPLACE
INPLACE方式是在原表上直接修改,对于添加索引、添加/删除列、修改字段NULL/NOT NULL属性等操作,需要修改MySQL内部的数据记录,需要重建表(Rebuild Table)。三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区

三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区从执行过程可以看到,需要获取Exclusive Metadata  Lock,修改表数据,释放Lock,在执行期间支持并发DML操作。

INSTANT
MySQL 5.8开始推出的方式,DDL只修改数据字典中的元数据,表数据不受影响,没有Exclusive Metadata  Lock,允许并发的DML操作,支持的DDL变更是有限制的,目前主要包括添加字段,添加/删除生成列,修改ENUM或SET列,改变索引类型以及重命名表。三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区比对下这三种方式的执行效率

三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区ONLINE DDL
截止MySQL 8.0,OnLine DDL有三种方式COPY,INPLACE,INSTANT,MySQL会自动根据执行的DDL选择使用哪种方式,一般会优先选择INSTANT方式,如果不支持,就选择INPLANCE方式,再不支持就只能选择COPY方式了。

MySQL官方文档也给出了Online DDL的支持矩阵,列下常用的DDL操作,对比项主要包括是否重建表,允许并发的DML操作以及只修改元数据,表数据不受影响。

三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区
大表DDL方案
在实际业务系统中,业务发展比较快,表的数据量比较大,业务层面又做了读写分离,同时会将MySQL数据实时同步到数据仓库(包括实时数仓和离线数仓),实际的数据库架构如下。三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区假设这是一个交易系统数据库,订单表booking有8000w数据,且接入到了实时和离线仓库,根据业务需要,在订单表booking添加一个字段,在MySQL 5.7之前添加字段属于高危操作,需要充分考虑对业务的影响,主要存在于两个方面:

  1. 在读写分离场景,主从同步延迟导致业务数据不一致
  2. 实时数仓ADB不允许源端MySQL表重命名,如果通过COPY方式或者pt-osc、gh-ost等工具都会rename表名,那么就需要从数仓删除该表,重新配置同步(全量 + 增量),会影响数仓业务

ONLINE DDL方式
对于MySQL 5.6到5.7的版本,可以使用OnLine DDL的方式变更,对于大表来说,执行时间会很长,好处是在Master上DML操作不受影响,但是会导致主从延时。

假如Master上添加字段执行了20分钟,相应的Slave也要执行20分钟,在这期间Slave一直处于延迟状态,会造成业务数据不一致,比如用户在Master下单成功,由于Slave延迟查询不到订单信息,用户误以为网络原因没有下单成功,又下了一单,导致重复下单的情况。

这种方式会导致主从延迟,但是不会影响实时数仓的业务,根据业务情况,只能选择在业务低峰期执行了。

pt-osc工具
为了解决DDL变更导致主从延时对业务的影响,会想到用大表变更利器pt-osc(pt-online-schema-change)或者gh-ost工具来做,这两个工具执行过程及原理大同小异,变更流程如下(不考虑外键,按照MySQL规范不允许使用外键):三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区

  1. 创建一个新的表,表结构为修改后的数据表,用于从源数据表向新表中导入数据。
  2. 在源表上创建触发器,用于记录从拷贝数据开始之后,对源数据表继续进行数据修改的操作记录下来,用于数据拷贝结束后,执行这些操作,保证数据不会丢失。
  3. 拷贝数据,从源数据表中拷贝数据到新表中。
  4. 修改外键相关的子表,根据修改后的数据,修改外键关联的子表。
  5. rename源数据表为old表,把新表rename为源表名,并将old表删除。
  6. 删除触发器。

执行pt-osc的时候也需要获取一个Exclusive Metadata  Lock,如果在此期间表上有DML操作正在进行,pt-osc操作会一直处于暂挂PENDING状态,这个时候表上正常DML操作都会被阻塞,MySQL活动连接数瞬间暴涨,CPU使用率100%,依赖的该表的接口都会报错,所以要选择在业务低峰期执行,同时做好MetaData Lock锁的监控以便业务不受影响,来看一个例子:三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区D=trade, t=booking:数据库trade,表名booking。

--chunk-size=1000:每次拷贝的数据行数。

--max-log = 1:确保从库延迟不超过1s,超过就停止拷贝数据。

--check-interval=2:表示等待2s之后继续拷贝数据。

--recursion-method="hosts":如果不是使用默认端口3306,那么使用hosts方式来查找从库更可靠。

一般MySQL binlog格式都是ROW,pt-osc在拷贝数据的过程也会产生大量的binlog,也可能导致主从延时,需要控制好每次拷贝数据的大小和频率,在执行期间,也会降低DML的并发度。

MySQL 8.0变更方式
用过Oracle的都知道,DDL变更都是修改元数据,上亿的表在Oracle中DDL变更都是瞬间完成。

令人激动的是,MySQL 8.0也推出了INSTANT方式,真正的只修改MetaData,不影响表数据,所以它的执行效率跟表大小几乎没有关系。建议新系统上线用MySQL的话尽量使用MySQL 8.0,老的数据库也可以升级到MySQL 8.0获取更好的性能。

官方文档对INSTANT的解释:

INSTANT: Operations only modify metadata in the data dictionary. No exclusive metadata locks are taken on the table during preparation and execution, and table data is unaffected, making operations instantaneous. Concurrent DML is permitted. (Introduced in MySQL 8.0.12)

既要解决主从同步,又要解决rename数仓不同步的问题,目前只有INSTANT方式满足需求了。

监控DDL执行进度
在大表执行DDL变更的时候,非常关心它的执行进度,MySQL 5.7之前是没有好的工具去监控,基本只能坐等了。在MySQL 8.0可以通过开启performance_schema,打开events_stages_current事件进行监控。三歪连MySQL大表怎么DDL变更都不懂-开源基础软件社区总结
DDL在业务系统版本迭代的过程是必不可少的,如何在不影响业务以及外围系统的情况下,实现DDL的平滑变更,是需要综合个系统特性考虑的,评估出重要性和优先级,同时也要掌握不同MySQL版本DDL执行方式,以便我们做更好的选择。

例如上面提到了,目前我在大数据团队,我们的业务都做了读写分离,同时接入实时数仓,数仓不支持rename操作,这时就可以选择在业务低峰期使用ONLINE DDL的方式执行,对业务系统影响最小,同时不影响数仓。

收藏
回复
举报
回复
添加资源
添加资源将有机会获得更多曝光,你也可以直接关联已上传资源 去关联
    相关推荐