使用 DataX 迁移:从 MySQL 到 OceanBase(data gard 迁移)

使用 DataX 迁移:从 MySQL 到 OceanBase(data gard 迁移)

今日霍州(www.jrhz.info)©️

DataX 是阿里云 DataWorks 数据集成的开源版本,是阿里巴巴集团内被广泛使用的离线数据同步工具 / 平台。DataX 支持多种异构数据源之间高效的数据同步功能。

1.DataX 工作原理

今日霍州(www.jrhz.info)©️

DataX 作为离线数据同步框架,采用 "Framework + Plugin" 模式构建。将数据源读取和写入抽象为 Reader/Writer 插件,纳入到整个同步框架中。

l Reader 作为数据采集模块,负责采集数据源的数据,将数据发送给 Framework。

l Writer 作为数据写入模块,负责不断向 Framework 获取数据,并将数据写入到目的端。

l Framework 用于连接 Reader 和 Writer,作为两者的数据传输通道,并处理缓冲、流控、并发、数据转换等核心技术问题。

2. 准备工作

2.1 环境要求

l 安装 JDK 1.8 或更高版本

l 安装 Python 2.7 或 3.x

l 下载并解压 DataX 工具包

2.2 数据库准备

在目标数据库中创建与源数据库相同的表结构(DataX 仅迁移数据,不迁移表结构)

确保源数据库和目标数据库都能与运行 DataX 的『服务器』建立网络连接。

3. 迁移数据

DataX 以任务的形式迁移数据。每个任务只处理一个表,每个任务有一个 json 格式的配置文件,配置文件里包含 reader 和 writer 两部分。

配置文件示例:

{"job": {

"content": [{

"reader": {

"name": "mysqlreader",

"parameter": {

"username": "***",

"password": "***",

"column": ["*"],

"connection": [

{"table": ["test"],

"jdbcUrl": ["jdbc:mysql://mysql_ip:3306/mysql_test?useUnicode=true&characterEncoding=UTF-8&autoReconnect=true&failOverReadOnly=false&useSSL=false"]

}]}},

"writer": {"name": "oceanbasev10writer","parameter": {"obWriteMode": "insert","column": ["*"],"preSql": [],

"connection": [{"jdbcUrl": "jdbc:mysql://oceanbase_ip:2881/oceanbasetest?useUnicode=true&characterEncoding=UTF-8&useSSL=false&rewriteBatchedStatements=true",

"table": ["test"]}],

"username": "***",

"password":"***",

"writerThreadCount":10,

"batchSize": 1000,

"memstoreThreshold": "0.9"

}}}],

"setting": {

"speed": {"channel": 2}}}}

reader 和 writer 分别对 DataX 支持的数据库读写插件,将 MySQL 表数据迁移到 OceanBase 数据库操作时,需要从 MySQL 读取数据写入 OceanBase 数据库,因此使用的插件为 MySQL 数据库的 mysqlreader 插件和 OceanBase 数据库的 oceanbasev10writer 插件来搭配完成。

4. 执行迁移任务

将 json 配置文件放到 DataX 的目录 job 下,或者自定义路径。执行方法如下:

$bin/datax.py job/test.json

5. 执行结果

今日霍州(www.jrhz.info)©️

特别声明:[使用 DataX 迁移:从 MySQL 到 OceanBase(data gard 迁移)] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

62岁著名心理学家刘力逝世 中国心理学界痛失巨擘(心理学知名学者)

2025年10月29日,北京师范大学心理学部发布讣告,著名心理学家刘力教授逝世,享年62岁

62岁著名心理学家刘力逝世 中国心理学界痛失巨擘(心理学知名学者)

小米雷军成 2025 中国财富“增长王”,胡润调侃称他弯腰捡一万块的时间还要亏一万块 财富每秒增长6000元(小米雷军成长经历)

10月28日,2025胡润百富榜发布,小米创办人、董事长兼CEO雷军以3260亿元位列第五。值得注意的是,雷军是该年度财富增长数额最高的企业家,其财富较去年增长了1960亿元,增幅达151%

小米雷军成 2025 中国财富“增长王”,胡润调侃称他弯腰捡一万块的时间还要亏一万块 财富每秒增长6000元(小米雷军成长经历)

重庆一大学老师被指刻薄魅男 硬刚学生引发争议(重庆大学老师名字大全)

10月29日,重庆工商大学相关校园账号“工商秘密”上出现一则匿名指控,矛头指向该校法学院一位胡姓教师。指控称该老师上课特别刻薄、行为不当,并把没礼貌当幽默

重庆一大学老师被指刻薄魅男 硬刚学生引发争议(重庆大学老师名字大全)

下周A股走势如何 市场乐观与谨慎并存(下周a股怎么走)

在探讨下周走势之前,先回顾一下A股近期的表现。过去一段时间,A股市场经历了跌宕起伏的行情,犹如一场过山车之旅。上证指数在震荡攀升后,在4000点整数关口附近展开了激烈争夺,多次上演突破与回落的戏码,市场多空双方分歧明显

下周A股走势如何 市场乐观与谨慎并存(下周a股怎么走)

美女网红突怒控李云迪 趁她昏睡「酒店下手」做龌龊事!(网红美女事件)

司晓迪继续爆料,吃下安眠药之后就已经睡着了,你到底对我做了什么事,最后还把我拉黑了。还有一部分网友认为司晓迪的截图把对方的头像遮盖住了,是真事还是想蹭流量。 就在辛雨锡在网上喊话秦霄贤道歉,不止给辛雨锡道…

美女网红突怒控李云迪 趁她昏睡「酒店下手」做龌龊事!(网红美女事件)