博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
alibaba/canal 阿里巴巴 mysql 数据库 binlog 增量订阅&消费组件
阅读量:4659 次
发布时间:2019-06-09

本文共 1444 字,大约阅读时间需要 4 分钟。

基于日志增量订阅&消费支持的业务:

  1. 数据库镜像
  2. 数据库实时备份
  3. 多级索引 (卖家和买家各自分库索引)
  4. search build
  5. 业务cache刷新
  6. 价格变化等重要业务消息

项目介绍

名称:canal [kə'næl]

译意: 水道/管道/沟渠

语言: 纯java开发

定位: 基于数据库增量日志解析,提供增量数据订阅&消费,目前主要支持了mysql

关键词: mysql binlog parser / real-time / queue&topic

 

工作原理

mysql主备复制实现

从上层来看,复制分成三步:

  1. master将改变记录到二进制日志(binary log)中(这些记录叫做二进制日志事件,binary log events,可以通过show binlog events进行查看);
  2. slave将master的binary log events拷贝到它的中继日志(relay log);
  3. slave重做中继日志中的事件,将改变反映它自己的数据。

canal的工作原理:

原理相对比较简单:

  1. canal模拟mysql slave的交互协议,伪装自己为mysql slave,向mysql master发送dump协议
  2. mysql master收到dump请求,开始推送binary log给slave(也就是canal)
  3. canal解析binary log对象(原始为byte流)

相关文档

See the wiki page for : 

wiki文档列表

QuickStart

See the page for quick start: .

ClientExample

See the page for quick start: .

AdminGuide

See the page for admin deploy guide : 

时序表结构

New Feature: 

重要版本更新说明

canal 1.1.x系列,参考release文档:

  1. 整体性能测试&优化,提升了150%. #726 参考: 【】
  2. 原生支持prometheus监控 #765 【】
  3. 原生支持kafka消息投递 #695 【】
  4. 原生支持aliyun rds的binlog订阅 (解决自动主备切换/oss binlog离线解析) 参考: 【】
  5. 原生支持docker镜像 #801 参考: 【】

多语言业务

  1. canal整体交互协议设计上使用了protobuf3.0,理论上可以支持绝大部分的多语言场景,欢迎大家提交多客户端的PR
    • canal java客户端: 
    • canal c#客户端开源项目地址:
    • canal go客户端开源项目地址:
  2. canal作为MySQL binlog的增量获取工具,可以将数据投递到MQ系统中,比如Kafka/RocketMQ,可以借助于MQ的多语言能力
    • 参考文档: 

版本相关

1. 建议版本:1.1.0

  1. 下载发布包:

  2. maven依赖

com.alibaba.otter
canal.client
1.1.0
  1. 详细的issues列表可查看:

相关资料

  • ADC阿里技术嘉年华分享ppt (放在google docs上,可能需要FQ): 

。。。

转载于:https://www.cnblogs.com/niejunlei/p/10323085.html

你可能感兴趣的文章
POJ 2031 Building a Space Station
查看>>
任意阶幻方(魔方矩阵)C语言实现
查看>>
织梦教程
查看>>
杭电多校 Harvest of Apples 莫队
查看>>
C/C++心得-结构体
查看>>
函数名作为参数传递
查看>>
apt-get for ubuntu 工具简介
查看>>
数值计算算法-多项式插值算法的实现与分析
查看>>
day8-异常处理与网络编程
查看>>
Python基础-time and datetime
查看>>
shell脚本练习01
查看>>
WPF图标拾取器
查看>>
通过取父级for循环的i来理解闭包,iife,匿名函数
查看>>
HDU 3374 String Problem
查看>>
数据集
查看>>
[Leetcode] unique paths ii 独特路径
查看>>
HDU 1217 Arbitrage (Floyd + SPFA判环)
查看>>
IntelliJ idea学习资源
查看>>
Django Rest Framework -解析器
查看>>
ExtJs 分组表格控件----监听
查看>>