产品功能
-
作业管理同步迁移比对告警
-
- 01
- 02
- 03
作业基本信息配置设置作业运行的基本信息,源库及目标库等信息。作业过滤配置配置作业迁移的黑白名单,及迁移范围等各项数据。作业清单展示当前所有可用作业的状态及基本信息。 -
- 01
- 02
- 03
汇总表信息对于各个表的数据信息和比对信息进行统计。错误汇总对各个表出错的信息进行展现。数据补录对待补录的数据进行汇总分析。 - 4
-
- 01
- 02
- 03
迁移统计分别从日志、表数、行数,三个维度对迁移和比对的状态信息进行统计。同步速率实时展示整个迁移和同步的速率信息。同步汇总对整个迁移的进度和延时时间进行评估。
/ 案例介绍
2020年5月份国内某大型股份制银行完成其核心业务系统从IBM AS400单机到x86
Linux应用服务集群的迁移工作。5月3日新的上线投产运行,通过三个月的持续稳定运行,于8月份正式宣布新的核心业务系统投产成功。
新的核心业务系统在国内率先采用x86+自主分布式数据库,并在国内大中型银行中率先实现突破。
/ 项目背景
某大型股份制银行在迁移之前服务系统的场景为:一台的AS400的生产机上,既运行核心业务(RPG开发的业务系统),又运行DB2的数据库,也就是数据库和业务系统是在同一台机器上。
随着银行业务系统的发展交易量和业务量不断的扩大,单台机器很难满足所有的业务需求和数据存储,同时不易进行水平扩展。
因此该行准备将核心业务由RPG开发转换成Java语言开发,并运行在基于x8架构的服务器上。旧的数据库AS400的DB2会转成多节点的分布式数据库同样是运行在基于x86_64架构的服务器上。
/ 客户痛点
1.如何实现业务不停机迁移:如今大中型银行的业务系统必须提供全天候的的持续对外服务能力,如何保障业务系统升级、迭代的过程中即不影响用户的实际使用体验,
又能让业务系统在升级改造的中得到不断的完善,是对一个银行综合素质的考量。因此必须保证迁移的数据和生产的数据实时同步,在迁移完成后即可以立即对外提供服务。
2.迁移后的数据如何达到100%正确:在数据迁移的过程中如何能保证用户的所有账户数据信息能够被正确的迁移, 在面临复杂规则转换场景时如何保证转换后的数据100%正确,如何将对用户的影响降到最低。
3.由单机数据库到分布式集群数据库如何进行分库分表:迁移之前所有的数据存储在单机的同一个数据库下,迁移后的所有数据存储在几十台x86分布式集群中。 如何将不同的数据迁移至分布式x86分布式数据库不同机器对应的表中,且保证数据的完整性,是一个很大的挑战。
4.如何解决业务数据迁移中存在的大字段数据、表数据异构、数据分片键缺失等:大字段因字段内部有混合类型(O、P等类型),需要进行特殊的转码解析操作。 异构表分包含普通异构(表名相同,结构不同)、表名异构(表名不同)、一表拆多表、多表合一等复杂场景。 核心业务数据库迁移至x86_64分布式数据库需对迁移的数据额外补充分片键字段,且部分表数据无法通过自身数据生成分片键,需根据表中映射字段进行查找。 / 解决方案 首先通过在备份机器上安装日志采集程序,实时将采集到的日志数据复制到工具的部署环境,通过对日志的解析还原出数据库变化的数据, 再经过多种的转换和补分片键等操作生成目标库的操作语句,从而实现生产环境和分布式数据库的环境进行实时的同步。 同时在数据持续增量变化的过程还会进行数据的增量校验,保证最终结果的一致性。 / 方案优势 1. 零停机 整个迁移过程从日志采集、转换处理、到同步至分布式数据库,数据同步过程仅有秒级延迟。当现有生产的数据库停止对外服务后, 新的分布式数据库访问可以直接对外提供服务,从而保证整个银行的业务能够不间断的进行。 2. 100%正确率 在整个数据同步的过程中,通过持续提取目标库装载的数据进行增量比对,来校验目标数据库同步数据的正确性, 对可能存在的错误经行统计、汇总,并在最终迁移完成后经过人工确认后进行一次性数据修复,保证最终结果一致性,实现100%的正确率。 3. 安全和高可靠 迁移工具日志获取时,仅需访问生产系统中备份数据库的日志文件,对生产数据库无入侵,充分保证生产系统的安全性。 同时整个工具全链路均支持断点恢复,以规避迁移中的宕机、硬件故障等异常事件,从而保证迁移持续可靠的进行。
2.迁移后的数据如何达到100%正确:在数据迁移的过程中如何能保证用户的所有账户数据信息能够被正确的迁移, 在面临复杂规则转换场景时如何保证转换后的数据100%正确,如何将对用户的影响降到最低。
3.由单机数据库到分布式集群数据库如何进行分库分表:迁移之前所有的数据存储在单机的同一个数据库下,迁移后的所有数据存储在几十台x86分布式集群中。 如何将不同的数据迁移至分布式x86分布式数据库不同机器对应的表中,且保证数据的完整性,是一个很大的挑战。
4.如何解决业务数据迁移中存在的大字段数据、表数据异构、数据分片键缺失等:大字段因字段内部有混合类型(O、P等类型),需要进行特殊的转码解析操作。 异构表分包含普通异构(表名相同,结构不同)、表名异构(表名不同)、一表拆多表、多表合一等复杂场景。 核心业务数据库迁移至x86_64分布式数据库需对迁移的数据额外补充分片键字段,且部分表数据无法通过自身数据生成分片键,需根据表中映射字段进行查找。 / 解决方案 首先通过在备份机器上安装日志采集程序,实时将采集到的日志数据复制到工具的部署环境,通过对日志的解析还原出数据库变化的数据, 再经过多种的转换和补分片键等操作生成目标库的操作语句,从而实现生产环境和分布式数据库的环境进行实时的同步。 同时在数据持续增量变化的过程还会进行数据的增量校验,保证最终结果的一致性。 / 方案优势 1. 零停机 整个迁移过程从日志采集、转换处理、到同步至分布式数据库,数据同步过程仅有秒级延迟。当现有生产的数据库停止对外服务后, 新的分布式数据库访问可以直接对外提供服务,从而保证整个银行的业务能够不间断的进行。 2. 100%正确率 在整个数据同步的过程中,通过持续提取目标库装载的数据进行增量比对,来校验目标数据库同步数据的正确性, 对可能存在的错误经行统计、汇总,并在最终迁移完成后经过人工确认后进行一次性数据修复,保证最终结果一致性,实现100%的正确率。 3. 安全和高可靠 迁移工具日志获取时,仅需访问生产系统中备份数据库的日志文件,对生产数据库无入侵,充分保证生产系统的安全性。 同时整个工具全链路均支持断点恢复,以规避迁移中的宕机、硬件故障等异常事件,从而保证迁移持续可靠的进行。
展开详情