使用DataX工具迁移yashan数据到maxcompute
注意:迁移需要使用崖山适配过的DataX工具包,下载链接:DataX: 阿里云DataWorks数据集成的开源版本
DataX单表迁移
使用DataX工具主要是配置好对应的json文件,使DataX工具可以根据json文件进行对应数据库表的迁移操作
json文件配置模板如下:template.json
配置完成后,执行下面命令即可执行DataX的同步操作(路径根据实际情况修改)
python bin/datax.py test_json/test.json
1、根据实际情况填写json模板文件与源库目标库相关的连接信息,并放在下面脚本工具同一个目录下:
sql命令:select table_name from dba_tables where owner='*****'; (*****填写实际情况下崖山数据库的用户名)
将输出导出到一个table.list文件中,每行记录一个表名
3、针对各个表生成对应的json配置文件(脚本中的[schema]根据实际情况更改为崖山数据库的用户名)
使用yas_dataxmove_auto_create_json.sh工具,为每张表生成对应的json文件
shell命令:./yas_dataxmove_auto_create_json.sh table.list username/password@ip:port
运行结果:运行结束后会在当前目录生成一个json目录,里面包含了table.list所有以表名命名的json配置文件
4、执行数据迁移操作(脚本中的[schema]根据实际情况更改为崖山数据库的用户名,注意根据实际情况对齐脚本工具中的路径)
使用yas_dataxmove_exists_json.sh工具,根据上一步骤生成的json文件用dataX执行迁移操作
shell命令:./yas_dataxmove_exists_json.sh table.list username/password@ip:port
运行结果:运行结束后会在当前目录下生成log目录,里面包含table.list所有以表名命名的.log迁移日志文件,以及有_temp.log后缀的临时视图创建及删除结果的日志文件。
5、简单的数据比对(脚本中的[schema]根据实际情况更改为崖山数据库的用户名,需要安装maxcompute客户端并可以连接上maxcompute)
运行check_out.sh脚本,比对源库与目标库数据每张表的行数是否⼀致。
shell命令:./check_out.sh table.list username/password/@ip:port [maxcompute的bin目录路径]
运行结果:如果目标库与源库表行数一致,则输出:Proofread successfully;若有表行数比对不一致则输出Proofread fail,并分别输出源库和目标库对应表的行数