Skip to content

Dagster

Dagster 是 2018 年由 Nick Schrock(前 Meta/Facebook GraphQL 联合创始人)创立的资产优先(Asset-centric)数据编排平台——核心理念是「以数据资产(Asset)为一等公民」。与 Airflow「以 Task 为中心」、Prefect「以 Flow 为中心」不同,Dagster 让你声明式地定义数据资产(表、模型、报表)及其依赖关系,调度围绕「资产是否最新」展开。这种「资产优先」哲学让 Dagster 在数据治理、ELT、强类型场景独具优势。2026-07-13 被 Prefect 收购后,预计以 Prefect 名义运营,其资产能力将与 Prefect 的动态能力融合。

Dagster 的全部考点围绕「Asset-centric + IO Manager + 类型系统」展开:①Software-defined Asset(软件定义资产)——用 @asset 装饰器声明数据资产及其上游依赖,资产间的依赖图就是调度图,调度围绕「资产是否物化(materialized)/最新」展开;②IO Manager——自动管理 asset/op 的数据存储与加载(存哪儿、怎么序列化),开发者只需声明存什么,存哪儿交给 IO Manager;③类型系统——DagsterType/Pydantic 风格的强类型,运行时校验数据契约,提前发现 schema 漂移;④op vs asset——op 是传统的「无副作用任务」(类似 Airflow Task),asset 是「产出数据资产的任务」(现代推荐写法);⑤2026-07-13 被 Prefect 收购——Prefect 收购 Dagster Labs,Dagster 的资产能力融入 Prefect,未来定位是「Prefect 的资产治理模块」。本叶是 Dagster 全章的总览与地基。

评价

优点

  • 资产优先:以数据资产为一等公民,资产依赖图即调度图,对数据治理/ELT 天然友好
  • 数据感知强:调度围绕「资产是否最新」展开,无需手动 Sensor 轮询(Airflow 2.x 的痛点)
  • IO Manager 解耦存储:自动管数据存哪/序列化,开发者只声明存什么,存储变更不改业务代码
  • 强类型系统:运行时校验数据契约,提前发现 schema 漂移(Pydantic 风格)

缺点

  • 学习曲线陡:Asset/IO Manager/Resource/Type 概念多,比 Airflow/Prefect 入门难
  • 生态较新:集成数量不及 Airflow(十年积累),复杂场景要自己写
  • 动态流程弱:以资产为中心,动态流程(ML 超参搜索)不如 Prefect 灵活
  • 被收购的不确定性:2026-07 被 Prefect 收购后,长期产品路线图与独立性存疑

本叶地图

幻灯片地址

Dagster

测试题

Dagster 测试题