使用 DataX 迁移:从 MySQL 到 OceanBase(data gard 迁移)

今日霍州(www.jrhz.info)©️

DataX 是阿里云 DataWorks 数据集成的开源版本,是阿里巴巴集团内被广泛使用的离线数据同步工具 / 平台。DataX 支持多种异构数据源之间高效的数据同步功能。

1.DataX 工作原理

今日霍州(www.jrhz.info)©️

DataX 作为离线数据同步框架,采用 "Framework + Plugin" 模式构建。将数据源读取和写入抽象为 Reader/Writer 插件,纳入到整个同步框架中。

l Reader 作为数据采集模块,负责采集数据源的数据,将数据发送给 Framework。

l Writer 作为数据写入模块,负责不断向 Framework 获取数据,并将数据写入到目的端。

l Framework 用于连接 Reader 和 Writer,作为两者的数据传输通道,并处理缓冲、流控、并发、数据转换等核心技术问题。

2. 准备工作

2.1 环境要求

l 安装 JDK 1.8 或更高版本

l 安装 Python 2.7 或 3.x

l 下载并解压 DataX 工具包

2.2 数据库准备

在目标数据库中创建与源数据库相同的表结构(DataX 仅迁移数据,不迁移表结构)

确保源数据库和目标数据库都能与运行 DataX 的『服务器』建立网络连接。

3. 迁移数据

DataX 以任务的形式迁移数据。每个任务只处理一个表,每个任务有一个 json 格式的配置文件,配置文件里包含 reader 和 writer 两部分。

配置文件示例:

{"job": {

"content": [{

"reader": {

"name": "mysqlreader",

"parameter": {

"username": "***",

"password": "***",

"column": ["*"],

"connection": [

{"table": ["test"],

"jdbcUrl": ["jdbc:mysql://mysql_ip:3306/mysql_test?useUnicode=true&characterEncoding=UTF-8&autoReconnect=true&failOverReadOnly=false&useSSL=false"]

}]}},

"writer": {"name": "oceanbasev10writer","parameter": {"obWriteMode": "insert","column": ["*"],"preSql": [],

"connection": [{"jdbcUrl": "jdbc:mysql://oceanbase_ip:2881/oceanbasetest?useUnicode=true&characterEncoding=UTF-8&useSSL=false&rewriteBatchedStatements=true",

"table": ["test"]}],

"username": "***",

"password":"***",

"writerThreadCount":10,

"batchSize": 1000,

"memstoreThreshold": "0.9"

}}}],

"setting": {

"speed": {"channel": 2}}}}

reader 和 writer 分别对 DataX 支持的数据库读写插件,将 MySQL 表数据迁移到 OceanBase 数据库操作时,需要从 MySQL 读取数据写入 OceanBase 数据库,因此使用的插件为 MySQL 数据库的 mysqlreader 插件和 OceanBase 数据库的 oceanbasev10writer 插件来搭配完成。

4. 执行迁移任务

将 json 配置文件放到 DataX 的目录 job 下,或者自定义路径。执行方法如下:

$bin/datax.py job/test.json

5. 执行结果

今日霍州(www.jrhz.info)©️

特别声明:[使用 DataX 迁移:从 MySQL 到 OceanBase(data gard 迁移)] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

LH15-G30-AD1Ni15-M30-AZ3XDC24V接近开关传感器维修步骤是多少

2.内部观察:观察电路板是否有肉眼可见的损坏,如烧焦的痕迹、鼓包的电容、炸裂的『芯片』、断裂的线路或虚焊的焊点。 3.老化与稳定性测试:让传感器连续工作一段时间,同时模拟现场环境(如轻微振动),观察其工作是否持…

LH15-G30-AD1Ni15-M30-AZ3XDC24V接近开关传感器维修步骤是多少

苹果“真全面屏”定档 2027 年?iPhone 20 目标正面无开孔

由于“四曲弯折屏”与现有工艺差异较大,LG Display 需要对生产线进行大幅调整,市场上也有消息传出,LG Display已从苹果方面获得十余条产线配额,同时苹果早在 2023 年就要求三星和 LG …

苹果“真全面屏”定档 2027 年?iPhone 20 目标正面无开孔

专属男士剃须刀🪒!剃须刀🪒哪个牌子的好?10大好用款冠军都在囤(男生用的剃须刀🪒)

低价款的剃须刀🪒刀头要么是固定死的,要么就只能小幅度动,根本贴不上脸上的轮廓;但好的剃须刀🪒就不一样了,用的是多向浮动刀头,能灵活转角度,紧紧贴住脸颊、下颌线这些部位,不用使劲按脸,就能把胡子都揪出来。 品牌简介…

专属男士剃须刀🪒!剃须刀🪒哪个牌子的好?10大好用款冠军都在囤(男生用的剃须刀🪒)

9年暴涨30倍!AI超级大牛股,横空出世了(2009涨幅十大股票)

凭借这一差异化产品,英维克大规模进入国内『互联网』大厂的供应链,实现了在『互联网』『数据中心』领域的弯道超车。最近,美股的AI巨头,如『英伟达』、博通等,由于市场“AI泡沫论”的担忧,股价出现明显下跌,这大概率会影响到A股A…

9年暴涨30倍!AI超级大牛股,横空出世了(2009涨幅十大股票)

钱再多有什么用?57岁的"风流妖精"江珊,给中老年人提了个醒(钱再多有什么用人心都坏了)

那时候她和高曙光已经结婚了,两个人都是演员,工作性质决定了他们聚少离多。 她学会了独立,学会了坚强,也学会了什么才是生活中真正重要的东西。 这个角色和江珊本人的经历有很多相似之处,她把自己的真实情感都融进了…

钱再多有什么用?57岁的"风流妖精"江珊,给中老年人提了个醒(钱再多有什么用人心都坏了)