江苏龙网

  1. 主页 > 生活百科 > >

基于 Canal 和 Kafka 实现 MySQL 的 Binlog 近实时同步

canal

前提近段时间，业务系统架构基本完备，数据层面的建设比较薄弱，因为笔者目前工作重心在于搭建一个小型的数据平台 。优先级比较高的一个任务就是需要近实时同步业务系统的数据（包括保存、更新或者软删除）到一个另一个数据源，持久化之前需要清洗数据并且构建一个相对合理的便于后续业务数据统计、标签系统构建等扩展功能的数据模型 。基于当前团队的资源和能力，优先调研了Alibaba开源中间件Canal的使用 。

基于 Canal 和 Kafka 实现 MySQL 的 Binlog 近实时同步

文章插图
 
这篇文章简单介绍一下如何快速地搭建一套Canal相关的组件 。
关于Canal简介下面的简介和下一节的原理均来自于Canal项目的README：
基于 Canal 和 Kafka 实现 MySQL 的 Binlog 近实时同步

文章插图
 
Canal[k?'næl]，译意为水道/管道/沟渠，主要用途是基于MySQL数据库增量日志解析，提供增量数据订阅和消费 。早期阿里巴巴因为杭州和美国双机房部署，存在跨机房同步的业务需求，实现方式主要是基于业务trigger获取增量变更 。从 2010 年开始，业务逐步尝试数据库日志解析获取增量变更进行同步，由此衍生出了大量的数据库增量订阅和消费业务 。
基于日志增量订阅和消费的业务包括：
  • 数据库镜像
  • 数据库实时备份
  • 索引构建和实时维护（拆分异构索引、倒排索引等）
  • 业务Cache刷新
  • 带业务逻辑的增量数据处理
Canal 的工作原理MySQL主备复制原理：
基于 Canal 和 Kafka 实现 MySQL 的 Binlog 近实时同步

文章插图
 
  • MySQL的Master实例将数据变更写入二进制日志（binary log，其中记录叫做二进制日志事件binary log events，可以通过show binlog events进行查看）
  • MySQL的Slave实例将master的binary log events拷贝到它的中继日志（relay log）
  • MySQL的Slave实例重放relay log中的事件，将数据变更反映它到自身的数据
Canal的工作原理如下：
  • Canal模拟MySQL Slave的交互协议，伪装自己为MySQL Slave，向MySQL Master发送dump协议
  • MySQL Master收到dump请求，开始推送binary log给Slave（即Canal）
  • Canal解析binary log对象（原始为byte流），并且可以通过连接器发送到对应的消息队列等中间件中
关于Canal的版本和部件截止笔者开始编写本文的时候（2020-03-05），Canal的最新发布版本是v1.1.5-alpha-1（2019-10-09发布的），最新的正式版是v1.1.4（2019-09-02发布的） 。其中，v1.1.4主要添加了鉴权、监控的功能，并且做了一些列的性能优化，此版本集成的连接器是Tcp、Kafka和RockerMQ 。而v1.1.5-alpha-1版本已经新增了RabbitMQ连接器，但是此版本的RabbitMQ连接器暂时不能定义连接RabbitMQ的端口号，不过此问题已经在master分支中修复（具体可以参看源码中的CanalRabbitMQProducer类的提交记录） 。换言之，v1.1.4版本中目前能使用的内置连接器只有Tcp、Kafka和RockerMQ三种，如果想尝鲜使用RabbitMQ连接器，可以选用下面的两种方式之一：
  • 选用v1.1.5-alpha-1版本，但是无法修改RabbitMQ的port属性，默认为5672 。
  • 基于master分支自行构建Canal 。
目前，Canal项目的活跃度比较高，但是考虑到功能的稳定性问题，笔者建议选用稳定版本在生产环境中实施，当前可以选用v1.1.4版本，本文的例子用选用的就是v1.1.4版本，配合Kafka连接器使用 。Canal主要包括三个核心部件：
  • canal-admin：后台管理模块，提供面向WebUI的Canal管理能力 。
  • canal-adapter：适配器，增加客户端数据落地的适配及启动功能，包括REST、日志适配器、关系型数据库的数据同步（表对表同步）、HBase数据同步、ES数据同步等等 。
  • canal-deployer：发布器，核心功能所在，包括binlog解析、转换和发送报文到连接器中等等功能都由此模块提供 。
一般情况下，canal-deployer部件是必须的，其他两个部件按需选用即可 。
部署所需的中间件搭建一套可以用的组件需要部署MySQL、Zookeeper、Kafka和Canal四个中间件的实例，下面简单分析一下部署过程 。选用的虚拟机系统是centos7 。
安装MySQL为了简单起见，选用yum源安装（官方链接是https://dev.mysql.com/downloads/repo/yum）：
基于 Canal 和 Kafka 实现 MySQL 的 Binlog 近实时同步

文章插图
 
mysql80-community-release-el7-3虽然包名带了mysql80关键字，其实已经集成了MySQL主流版本5.6、5.7和8.x等等的最新安装包仓库


推荐阅读


上一篇：喝千日红花茶的注意事项,不同品种花茶的功效

下一篇：茉莉龙井茶的功效与作用,茉莉花的功效与作用