资讯专栏INFORMATION COLUMN

TiDB Binlog 组件正式开源,前排开“坑”走起!

时飞 / 2373人阅读

摘要:组件用于收集的,并准实时同步给下游,如等。为方便用户和开发者更加深入理解和使用组件,以及基于组件做二次开发用于更多的业务场景,我们决定今天正式开源组件。近期我们将发布源码阅读指南,敬请期待。

TiDB Binlog 组件用于收集 TiDB 的 binlog,并准实时同步给下游,如:TiDB/MySQL等。该组件在功能上类似于 MySQL 的主从复制,会收集各个 TiDB 实例产生的 binlog,并按事务提交的时间排序,全局有序的将数据同步至下游。利用 TiDB Binlog 可以实现数据准实时同步到其他数据库,以及 TiDB 数据准实时的备份与恢复。TiDB Binlog 作为 TiDB 的核心组件之一,已经在上百家用户的生产环境中长时间稳定运行。

为方便用户和开发者更加深入理解和使用 TiDB Binlog 组件,以及基于 TiDB Binlog 组件做二次开发用于更多的业务场景, 我们决定今天正式开源 TiDB Binlog 组件。

TiDB Binlog 适用的功能场景

准实时数据同步:同步 TiDB 数据到其他数据库或消息队列(如TiDB/MySQL/MariaDB/Kafka)。

准实时备份和恢复:增量备份 TiDB 集群数据到外部系统,利用备份的数据在系统故障或者其他场景时可将数据恢复到任意时间点。

TiDB Binlog 架构

TiDB Binlog 核心特性

支持类似 MySQL ROW 复制模式。

准实时并按事务提交的时间顺序将数据同步至下游。

分布式架构设计,支持水平弹性扩容和服务高可用。

数据高可靠,系统实时将数据持久化到本地磁盘。

支持多种输出方式,如下:

文件:系统准实时将 binlog 写入文件系统作为增量备份,利用此增量备份文件可将数据恢复到任意时间点。

消息队列:按照 binlog slave protocol 输出到 Kafka。

下游目标数据库:TiDB/MySQL/MariaDB。

TiDB Binlog 代码及文档资源

TiDB Binlog 源代码

TiDB Binlog 使用手册

深入理解 TiDB Binlog 组件实现原理

定制输出方式或者输出到其他下游存储系统

欢迎大家一起参与 TiDB Binlog 的设计、研发、测试共同推进 TiDB Binlog 走向更成熟,更稳定。近期我们将发布 TiDB Binlog 源码阅读指南,敬请期待。

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/18016.html

相关文章

  • TiDB-Lightning Toolset & TiDB-DM 正式前排”、P

    摘要:原理解读介绍项目地址是用于将数据从迁移到的工具。该工具既支持以全量备份文件的方式将的数据导入到,也支持通过解析执行的方式将数据增量同步到。特别地,对于有多个实例的分库分表需要合并后同步到同一个集群的场景,提供了良好的支持。 在刚刚结束的 TiDB DevCon 2019 上,我们宣布将大家期待已久的 TiDB-Ligthning Toolset 和 TiDB-DM 开源(惊不惊喜、意不...

    wudengzan 评论0 收藏0

发表评论

0条评论

最新活动
阅读需要支付1元查看
<