
#冲刺创作新星#Docker装canal、mysql实现redis和mysql缓存一致性 原创
一、简介
canal
[kə’næl],译意为水道/管道/沟渠,主要用途是基于 MySQL 数据库增量日志解析
,提供增量数据订阅和消费
。
早期阿里巴巴因为杭州和美国双机房部署,存在跨机房同步的业务需求,实现方式主要是基于业务 trigger 获取增量变更。从 2010 年开始,业务逐步尝试数据库日志解析获取增量变更进行同步,由此衍生出了大量的数据库增量订阅和消费业务。
Canal 是用 Java 开发的基于数据库增量日志解析,提供增量数据订阅&消费的中间件
。
目前,Canal 主要支持了 MySQL 的 Binlog
解析,解析完成后才利用 Canal Client 来处理获得
的相关数据。(数据库同步需要阿里的 Otter
中间件,基于 Canal)。
当前的 canal 支持源端 MySQL 版本包括 5.1.x , 5.5.x , 5.6.x , 5.7.x , 8.0.x
。
二、MySQL 的 Binlog
1. Binlog介绍
MySQL 的二进制日志可以说 MySQL 最重要的日志了,它记录了所有的 DDL 和 DML(除
了数据查询语句)语句,以事件形式记录,还包含语句所执行的消耗的时间,MySQL 的二进 制日志
是事务安全型的。
一般来说开启二进制日志大概会有 1%的性能损耗。二进制有两个最重要的使用场景:
-
MySQL Replication 在 Master 端开启 Binlog,Master 把它的二进制日志传递给 Slaves
来达到 Master-Slave 数据一致的目的,这就是我们常用的主从复制。 -
就是数据恢复了,通过使用 MySQL Binlog 工具来使恢复数据,生产上要开启,不然真的要删库跑路了 。
2. Binlog 的分类
MySQL Binlog 的格式有三种,分别是 STATEMENT,MIXED,ROW。在配置文件中可以选择配
置 binlog_format= statement|mixed|row。
- statement:语句级,binlog 会记录每次一执行写操作的语句。比如
update user set create_date=now()
优点:节省空间。
缺点:有可能造成数据不一致。 - row:行级, binlog 会记录每次操作后每行记录的变化。
优点:保持数据的绝对一致性
缺点:占用较大空间 - mixed:statement 的升级版,一定程度上解决了,因为一些情况而造成的 statement
模式不一致问题,默认还是 statement,一些会产生不一致的情况还是会选择row。
综合对比
Canal 想做监控分析,选择 row 格式比较合适。
三、工作原理
1. MySQL主备复制原理
- MySQL master 将数据变更写入二进制日志( binary log, 其中记录叫做二进制日志事件binary log events,可以通过 show binlog events 进行查看)
- MySQL slave 将 master 的 binary log events 拷贝到它的中继日志(relay log)
- MySQL slave 重放 relay log 中事件,将数据变更反映它自己的数据
2. canal 工作原理
- canal 模拟 MySQL slave 的交互协议,伪装自己为 MySQL slave ,向 MySQL master 发送dump 协议
- MySQL master 收到 dump 请求,开始推送 binary log 给 slave (即 canal )
- canal 解析 binary log 对象(原始为 byte 流)
总结:
我们可以把canal理解为从机,拿到数据然后进行后续操作,可以同步到redis上,再也不需要进行延迟双删来保证mysql和redis的数据一致性了,而且还不会出现各种各样的问题!
四、canal使用场景
场景一: 阿里 Otter 中间件的一部分
Otter 是阿里用于进行异地数据库之间的同步框架,Canal 是其中一部分。
otter github地址
场景二:保证缓存和数据库一致性(我们今天要测试的)
场景三:实时数据分析
抓取业务表的新增变化数据,用于制作实时统计
五、安装mysql、redis
1. 安装mysql
2. Docker配置MySQL
添加如下配置:
3. 重新启动mysql
4. 创建用户并赋权限
查看mysql的 id:
进入docker容器:
连接到mysql:
创建用户并赋予权限:
刷新:
5. Win10连接mysql创建user表
6. 创建redis
六、安装canal
1. 启动容器
查看三个容器:
2. 配置canal
进入容器:
切换目录:
修改两个地方:
第一个是mysql的地址,第二个是我们创建数据库名字(可以使用默认带的,就是全部的库都进行收集binlog日志)
3. 查看日志
我们查看一下canal的日志,看是否启动成功!
首先进入容器:
切换目录:
查看日志:
无报错,刚刚新建的表这里也可以检测到!
4. 查看canal.properties
我们可以看到有很多个模式,可以把canal收集到的binlog发送到三大MQ中,或者tcp。
本次以tcp为准测试,如果大家有需求可以进行发送到MQ,往下滑都有对应的配置!
七、简单测试
1. 新建springboot项目,导入依赖
2. 编写测试文件
来自官方例子:
我把statis关键字删除了,方便和redis进行整合
3. 启动项目
4. 插入一条数据
总结:
我们测试是可以获取到binlog日志的,下面我们进入实战:实现redis缓存同步
八、实战redis同步缓存
1. 编写redis序列化配置类
2. 添加redis增删改方法
主要添加了同步到redis的两个方法,这里是2分钟就会停止监听,大家可以按自己的来调整:
3. 测试添加
数据库插入一条:
控制台捕捉到信息:
我们看到redis已经有数据了,同步成功!
4. 测试更新
更细我们刚刚添加的那条数据:
控制台捕捉到了更新信息:
redis也同步修改了!
5. 测试删除
我们先多添加几条哈:
删除id为1的那条数据:
控制台捕捉到了删除信息:
redis也同步删除了!
九、总结
这样就实现了一个canal的应用场景,当然也可以把binlog的数据发送到MQ来!
小编整理了一天,看到这里给小编点个关注呗,谢谢大家的支持哦!!
<hr>
欢迎大家关注小编的微信公众号!!谢谢大家了!!
有缘人才可以看得到的哦!!!
