基于快照的CDC方式在助睿ETL中如何实现?优缺点是什么?

基于快照的CDC方式在助睿ETL中如何实现?有什么优缺点?

21 个赞

基于快照的CDC(变更数据捕获)在助睿ETL中可以通过"合并记录"组件配合"过滤记录"来实现。大致流程:

1.使用"表输入"分别获取旧数据和新数据;

2.用"合并记录"组件比较两个数据源,设置关键字段和比较字段;

3.用"过滤记录"过滤出标志字段为"identical"的已删除、新增和修改的数据。优点:可以检测到插入、更新和删除的数据;缺点:需要大量的存储空间来保存快照,在表比较大时会有严重的性能问题。