使用 DataX 迁移:从 MySQL 到 OceanBase(data gard 迁移)

使用 DataX 迁移:从 MySQL 到 OceanBase(data gard 迁移)

DataX 是阿里云 DataWorks 数据集成的开源版本,是阿里巴巴集团内被广泛使用的离线数据同步工具 / 平台。DataX 支持多种异构数据源之间高效的数据同步功能。

1.DataX 工作原理

DataX 作为离线数据同步框架,采用 "Framework + Plugin" 模式构建。将数据源读取和写入抽象为 Reader/Writer 插件,纳入到整个同步框架中。

l Reader 作为数据采集模块,负责采集数据源的数据,将数据发送给 Framework。

l Writer 作为数据写入模块,负责不断向 Framework 获取数据,并将数据写入到目的端。

l Framework 用于连接 Reader 和 Writer,作为两者的数据传输通道,并处理缓冲、流控、并发、数据转换等核心技术问题。

2. 准备工作

2.1 环境要求

l 安装 JDK 1.8 或更高版本

l 安装 Python 2.7 或 3.x

l 下载并解压 DataX 工具包

2.2 数据库准备

在目标数据库中创建与源数据库相同的表结构(DataX 仅迁移数据,不迁移表结构)

确保源数据库和目标数据库都能与运行 DataX 的服务器建立网络连接。

3. 迁移数据

DataX 以任务的形式迁移数据。每个任务只处理一个表,每个任务有一个 json 格式的配置文件,配置文件里包含 reader 和 writer 两部分。

配置文件示例:

{"job": {

"content": [{

"reader": {

"name": "mysqlreader",

"parameter": {

"username": "***",

"password": "***",

"column": ["*"],

"connection": [

{"table": ["test"],

"jdbcUrl": ["jdbc:mysql://mysql_ip:3306/mysql_test?useUnicode=true&characterEncoding=UTF-8&autoReconnect=true&failOverReadOnly=false&useSSL=false"]

}]}},

"writer": {"name": "oceanbasev10writer","parameter": {"obWriteMode": "insert","column": ["*"],"preSql": [],

"connection": [{"jdbcUrl": "jdbc:mysql://oceanbase_ip:2881/oceanbasetest?useUnicode=true&characterEncoding=UTF-8&useSSL=false&rewriteBatchedStatements=true",

"table": ["test"]}],

"username": "***",

"password":"***",

"writerThreadCount":10,

"batchSize": 1000,

"memstoreThreshold": "0.9"

}}}],

"setting": {

"speed": {"channel": 2}}}}

reader 和 writer 分别对 DataX 支持的数据库读写插件,将 MySQL 表数据迁移到 OceanBase 数据库操作时,需要从 MySQL 读取数据写入 OceanBase 数据库,因此使用的插件为 MySQL 数据库的 mysqlreader 插件和 OceanBase 数据库的 oceanbasev10writer 插件来搭配完成。

4. 执行迁移任务

将 json 配置文件放到 DataX 的目录 job 下,或者自定义路径。执行方法如下:

$bin/datax.py job/test.json

5. 执行结果

特别声明:[使用 DataX 迁移:从 MySQL 到 OceanBase(data gard 迁移)] 该文观点仅代表作者本人,今日霍州系信息发布平台,霍州网仅提供信息存储空间服务。

猜你喜欢

医院排队叫号系统升级!看病效率提升50%的秘诀在这里!(医院排队叫号系统不按顺序吗)

挂号排队、候诊排队、取药还要排队...不过最近我发现,越来越多的医院开始使用智慧医疗分诊导引系统,就医体验简直发生了翻天覆地的变化! 一大早就要去抢号候诊区人挤人,空气混浊护士台前围满询问进度的患者稍不留神就…

医院排队叫号系统升级!看病效率提升50%的秘诀在这里!(医院排队叫号系统不按顺序吗)

这个5亿播放的AI视频,邪乎得平平无奇(5亿播放量)

根据视频里显示出的现实世界的物理理解和展示,大多网友猜测,这些AI视频大概率是使用Veo3生成的。我们自己也试着用Veo3生成了一个“兔子蹦床”的视频。 但如果是各式各样的小动物在夜间偷偷潜入你的后院,在…

这个5亿播放的AI视频,邪乎得平平无奇(5亿播放量)

Leadmium TM Green AM dye荧光探针

Leadmium Green AM Dye 属于荧光小分子探针,带有能够选择性结合Pb²⁺和Cd²⁺离子的配位基团,同时标记有绿色荧光染料。荧光发射:激发波长大约在490 nm,发射峰约在520 nm,表…

Leadmium TM Green AM dye荧光探针

正式回归!时隔15年!詹姆斯1.0版本,爷青回...(正式回归!时隔多少年)

美媒Ary表示:联盟消息人士自信地告诉我,东契奇预计将与湖人签下一份长期续约合同,可能是一份3年或4年的合同,最高可以拿到4年2.29亿美元。 不到半年的时间,东契奇的身材变化显而易见,他在向老东家证明,…

正式回归!时隔15年!詹姆斯1.0版本,爷青回...(正式回归!时隔多少年)

防霉效果好的纤维|一篇教你告别潮湿发霉的烦恼!(防霉是什么意思)

安芯丝防霉效果优异,防霉等级达0级(最高标准),可有效抑制霉菌滋生,其防霉性能通过以下技术实现,且在实际应用中表现突出: 防霉等级0级:经专业机构广检集团取样检测,安芯丝对常见霉菌(如黑曲霉、绳状青霉等)的防…

防霉效果好的纤维|一篇教你告别潮湿发霉的烦恼!(防霉是什么意思)