数据集成中的"转换(Pipeline)"和"作业(Workflow)"有什么区别?

数据集成里的"转换(Pipeline)"和"作业(Workflow)"这两个概念有什么不同,分别用在什么场景?

转换(Pipeline):是面向数据处理流转的核心载体,承载数据接入、清洗、转换、输出等全流程ETL逻辑,各步骤独立线程运行。在对数据进行清洗、关联、分流等具体的ETL操作时使用。

作业(Workflow):是面向任务流程管控的核心载体,定义任务项的执行顺序与依赖关系,实现业务流程的调度管理,任务项顺序执行。在需要编排多个任务(如依次执行多个转换、发送邮件)的流程时使用。

1 个赞