尧图精选

Apache Airflow 3 Web UI 完整指南:从 Home 到 Grid/Graph,掌握监控、调试与管理数据管线的全部视图

🕒 发布时间:2026/9/10 13:22:55 📁 来源:尧图网络
Apache Airflow 3 Web UI 完整指南从 Home 到 Grid/Graph掌握监控、调试与管理数据管线的全部视图【免费下载链接】airflowApache Airflow - A platform to programmatically author, schedule, and monitor workflows项目地址: https://gitcode.com/GitHub_Trending/ai/airflowAirflow 3 对 Web UI 进行了全面重构采用全新的 React 技术栈源码位于 airflow-core/src/airflow/ui带来了现代化的外观、明暗双主题和重新设计的导航体验。本文以官方 UI 文档为骨架结合仓库前端源码系统梳理 Home 首页、Dag 列表、Dag 详情Overview / Grid / Graph / Runs / Tasks / Events / Code / Details、Dag Run 视图、Task Instance 视图、Asset 视图以及 Admin 管理视图的完整功能帮助你快速定位问题、理解每个视图背后的数据来源与使用场景。说明本文截图默认使用暗色主题dark theme部分视图附亮色主题light theme对比。你可以在 Airflow UI 左下角的用户设置中随时切换主题。此外Airflow 3 UI 使用了较新的浏览器与 CSS 特性请使用当前版本的 Chrome、Edge、Firefox 或 Safari旧版本浏览器若不支持oklch()、color-mix()等现代 CSS 颜色函数可能出现渲染异常。Home 首页系统健康总览Home 页面是 Airflow 3 的默认落地页提供系统状态与近期活动的全局概览主要包含四类信息健康指标Health indicators针对 MetaDatabase、Scheduler、Triggerer、Dag Processor 等核心组件的健康状态展示快捷链接Quick links按状态筛选 Dags例如 Failed Dags失败、Running Dags运行中、Active Dags活跃Dag 与 Task Instance 历史在可选的统计时间范围内展示运行计数、成功率/失败率等趋势近期 Asset 事件Recent asset events包括资产物化materialization以及由资产触发asset-triggered的 Dag 运行。该页面适合快速评估环境整体健康度、定位近期故障或由资产事件驱动的异常运行。在源码层面Home 对应路由path: home下的Dashboard页面见 router.tsx。Dag List 视图环境内所有 Dags 的总览点击主导航栏的Dags标签即可进入 Dag List 视图它列出环境中全部 Dags并对每个 Dag 的状态、近期运行与配置给出清晰摘要。每一行包含Dag IDSchedule调度与下一次运行时间最近一次 Dag Run 的状态近期运行次数的柱状图Tags标签用于分组或过滤例如example、produces暂停/恢复开关Pause/resume toggle跳转到 Dag 级视图的链接视图顶部提供以下操作按Dag 状态、调度状态、标签进行过滤使用搜索或**高级搜索⌘K**定位具体 Dag通过下拉菜单排序例如按 Latest Run Start Date。列表中部分 Dag 会与数据资产Asset交互例如由资产条件触发的 Dag 会弹出气泡展示其上游资产输入。从源码看DagsList页面对应路由path: dags每个 Dag 详情页则挂在dags/:dagId之下子路由包括runs、tasks、calendar、backfills、events、code、details等见 router.tsx 与 router.tsx。Dag Details 页面Dag 的集中管理入口点击列表中的某个 Dag 即进入Dag Details 页面它是访问该 Dag 元数据、近期活动和任务级诊断的集中入口关键元素包括Dag 元数据ID、owner、tags、schedule、最新 Dag 版本操作按钮触发TriggerDag、重新解析Reparse、暂停/恢复Tab 式界面Overview近期失败、运行计数、任务日志、Grid View状态热力图、Graph View任务依赖、Runs完整运行历史、Tasks聚合统计、Events系统或资产触发事件、CodeDag 源码、Details扩展元数据。页面还包含近期 Dag 运行的视觉时间线和失败日志预览帮助跨运行快速定位问题。Grid View按运行状态矩阵排查任务Grid View 是检查 Dag Run 与任务状态的首要界面可用来调试、重试或持续监控工作流一眼看清近期 Dag 运行的状态通过颜色与 tooltip识别失败或重试的任务点击任务单元格可查看日志或将任务实例标记为成功、失败、清除cleared按任务名或部分 ID过滤任务通过网格上方的下拉框选择运行范围例如 last 25 runs。网格中每一行代表一个任务每一列代表一次 Dag Run悬停任意任务实例可查看详情点击可下钻到日志与元数据。从源码看Grid 所需的数据来自useGridRuns查询 hook见 Overview.tsx它拉取指定数量limit的最近运行数据来渲染网格矩阵。Graph View任务依赖的逻辑结构Graph View 展示 Dag 的逻辑结构——任务如何连接、执行顺序以及分支或重试如何配置。它特别适合以下场景调试任务为何未运行例如因 trigger rule 被跳过理解复杂管线中的任务依赖查看运行特有的任务状态success、failed、upstream failed 等。每个节点代表一个任务边edges表示任务之间的依赖。点击任意任务可查看其元数据与近期运行历史。使用顶部的下拉框可在不同 Dag Run 之间切换观察任务状态随每次执行的变化。Dag Tabs更深入的元数据与洞察除 Grid、Graph 这类交互视图外Dag 详情页还提供多个信息类 TabRuns Tab以可排序表格展示所有 Dag Run包含状态、执行时长、运行类型run type与 Dag 版本。Tasks Tab展示 Dag 内每个任务的元数据包括 operator 类型、trigger rule、最近运行状态与运行历史。Events Tab呈现与 Dag 相关的结构化事件例如 Dag 触发trigger与版本补丁version patches。该 Tab 对Dag 版本管理与变更排查尤其有用。Code Tab展示当前版本的 Dag 定义源码并带有最后一次解析parse的时间戳。用户还可以查看任意历史 Dag 版本的代码。Details Tab提供 Dag 的配置细节与元数据包括 schedule、文件位置、并发限制与版本标识符。Dag Run 视图单次运行的完整视角在 Dag 的RunsTab 中选择任意一行即可进入对应的Dag Run 视图展示本次运行的元数据、任务级详情、渲染后的代码等。关键元素包括Dag Run 元数据logical date逻辑日期、run type、时长、Dag 版本、解析时间操作按钮清除clear或标记该运行、添加备注note常驻的 Grid View 侧边栏展示最近多次 Dag Run 的任务时长与状态有助于一眼发现反复出现的问题或性能趋势。Dag Run TabsTask Instances展示该运行内每个任务实例的状态与元数据列包括 Task ID、State、Start/End Dates、Try Number、Operator Type、Duration、Dag Version每行还附带一个迷你 Gantt 风格时间线直观呈现任务时长Events若可用列出促成该次运行的系统级或资产触发事件Code展示该次运行解析时所使用的 Dag 源码快照对调试版本漂移version drift或对比不同代码版本下的运行行为非常有用Details提供扩展元数据包括 Run ID 与 Trigger Type、Queued At / Start / End Time / Duration、Data Interval 边界、Trigger Source 与 Run Config、Dag Version ID 与 Bundle NameGraph View将任务的依赖结构叠加本次运行中每个任务的状态每个节点还带任务时长的可视化指示适合可视化解读失败路径或识别下游阻塞点。Dag Trigger 窗口单次运行与回填Single Run单次运行允许你手动触发一次 Dag RunBackfill回填允许你为过去的日期触发 Dag Run。Task Instance 视图单次任务执行的日志与元数据从 Dag Run 视图点击某个具体任务即进入Task Instance 视图展示该次任务执行的详细日志与元数据。Task Instance Tabs每个任务实例的 Tab 化视图提供以下访问入口Logs默认 Tab展示任务日志包含系统输出、错误信息与 traceback。这是任务失败时首先查看的位置Rendered Templates展示任务中模板字段的渲染结果适合调试 context 变量或验证动态内容XCom展示通过XCom.push()推送的值或在 TaskFlow 中由 Python 函数返回的值Events若存在展示与该任务实例执行相关的具体事件Code展示执行时解析的 Dag 源码用于确认任务运行所用的是哪个 Dag 版本Details展示任务实例的运行时元数据包括 Task ID 与 State、Dag Run ID / Dag Version / Bundle Name、所用 operator 与运行时长、Pool 与槽位占用pool and slot usage、Executor 与配置。从路由配置可以看到任务实例支持logs、events、xcom、code、details、renderedTemplates、taskInstances、requiredActions等多个子页面见 router.tsxMapped Task动态映射与 Task Group 也有独立的详情路由。Asset 视图资产驱动工作流的监控与调试Assets板块为以资产为中心的工作流提供专用监控与调试界面。资产代表逻辑数据单元——如文件、表或模型——任务可以产出或消费它们Airflow 会跟踪这些依赖关系并给出可视化。该机制正是 Airflow 3 中数据驱动调度替代/补充传统时间调度的 asset-based scheduling的核心体现。Asset ListAsset List 按名称分组展示所有已知资产。对每个资产可以看到所属分组如果存在消费该资产的 Dags产出该资产的任务。悬停在 Dag 或任务的计数上会弹出 tooltip列出完整的生产者或消费者清单。点击链接可进入 Asset Graph View。Asset Graph ViewAsset Graph View 在上下文中展示资产包括上游生产者与下游消费者。你可以理解资产的**血缘关系lineage**与所涉及的 Dags手动触发资产事件对应源码中的CreateAssetEvent组件见 Asset 页面目录查看近期资产事件以及它们触发的 Dag 运行。Dag 视图中的 Graph Overlays当 Dag 包含产出或消费资产的任务时可以在 Dag 的 Graph 视图中开启资产叠加层。切换每个资产旁的开关即可查看资产如何在 Dags 之间流动检查由资产触发的依赖关系。两种图模式可供选择All Dag Dependencies展示所有 Dag 到 Dag 及任务级的连接External Conditions仅展示通过资产事件触发的 Dags。Admin 视图面向平台运维的管理工具AdminTab 提供配置与扩展 Airflow 的系统级工具主要面向负责部署、集成与性能调优的管理员与平台运维人员。关键页面包括页面用途Variables存储可从 Dags 读取的键值对用于管理环境相关参数或密钥Connections定义指向外部系统数据库、云服务、API 等的连接 URI被 Airflow 的 operators 与 hooks 消费Pools通过限制指定命名池中并发运行的任务数量来控制资源分配适用于管理资源争用或配额受限系统Providers查看已安装的 provider 包例如apache-airflow-providers-google包括可用的 hooks、sensors 与 operators便于核对 provider 版本或排查导入错误Plugins检查已注册的 Airflow 插件这些插件通过自定义 operators、macros 或 UI 元素扩展平台Config查看从airflow.cfg、环境变量或覆盖默认值解析出的完整生效配置帮助排查 scheduler 行为、secrets backend 等配置问题注意Admin Tab 仅对具有相应 RBAC 权限的用户可见。从源码看Admin 菜单项在 AdminButton.tsx 中定义依次指向/variables、/pools、/providers、/plugins、/connections、/configs对应的页面组件分别为 Variables、Pools、Providers、Plugins、Connections、Configs。此外导航中还包含Browse类菜单/events、/deadlines、/jobs、/xcoms、/required_actions见 BrowseButton.tsx用于浏览事件、任务期限deadlines、作业、XCom 与人工审批HITL等。小结一张图看懂 Airflow 3 UI 的层级Airflow 3 UI 的信息架构可以归纳为三个层级全局视图Home、Dags List、Assets List、Admin→实体视图Dag Details、Dag Run、Asset Graph→实例视图Task Instance。无论你是在排查一次失败的任务运行Task Instance → Logs/Details、理解资产触发的调度链路Asset Graph → External Conditions还是核对平台级配置Admin → Config这套视图体系都能提供从宏观健康度到微观执行细节的完整可观测性。结合源码中的路由定义router.tsx你也可以清晰地把每个页面组件与对应 URL、数据查询一一对应为二次开发或插件扩展提供索引。【免费下载链接】airflowApache Airflow - A platform to programmatically author, schedule, and monitor workflows项目地址: https://gitcode.com/GitHub_Trending/ai/airflow创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
上一篇/下一篇内容由系统自动关联 返回资讯列表 →