0

0

Python使用Airflow实现自动化任务调度的构建方式【教程】

舞夢輝影

舞夢輝影

发布时间:2025-12-13 19:18:08

|

952人浏览过

|

来源于php中文网

原创

Airflow通过DAG文件定义任务调度,需满足文件命名、全局dag变量、必要导入等要求;用PythonOperator封装函数,设置依赖、重试、触发规则及敏感参数管理;支持本地调试与生产部署。

python使用airflow实现自动化任务调度的构建方式【教程】

用 Airflow 实现 Python 任务的自动化调度,核心是把业务逻辑封装成可被 Airflow 管理的 Operator,再通过 DAG 定义执行顺序、触发条件和重试策略。它不直接运行脚本,而是调度“任务实例”,靠 Scheduler 和 Executor 协同驱动。

定义一个基础 DAG 文件

DAG 是 Airflow 的调度蓝图,本质是一个 Python 文件(通常放在 dags/ 目录下),需满足几个硬性要求:

  • 文件名不能含空格或特殊字符,推荐小写加下划线(如 etl_daily_job.py
  • 必须包含一个全局变量 dag = DAG(...),且变量名固定为 dag
  • 需导入必要模块:from airflow import DAGfrom airflow.operators.python import PythonOperator
  • DAG 参数中 schedule_interval(新版推荐用 schedule)决定触发频率,支持 cron 表达式(如 "0 2 * * *" 表示每天凌晨2点)或 timedelta(如 timedelta(days=1)

用 PythonOperator 封装你的函数

这是最常用的方式,适合已有现成的 Python 函数。Airflow 会在任务运行时调用它,并自动传入上下文(**context):

  • 函数本身不能带括号调用,只写函数名(例如 task1 = PythonOperator(task_id='run_clean', python_callable=clean_data)
  • 若需传参,用 op_kwargs 字典(如 op_kwargs={"table": "users", "days_back": 7}),函数签名要匹配
  • 函数返回值默认被序列化进 XCom,供下游任务读取(用 context["ti"].xcom_pull(task_ids="upstream_task")
  • 避免在函数里写长时间阻塞操作(如 time.sleep(300)),应拆成多个短任务或改用 TimeDeltaSensor 等传感器

设置依赖关系与容错机制

任务不是孤立运行的,DAG 要明确谁先谁后、失败怎么处理:

AIPAI
AIPAI

AI视频创作智能体

下载

立即学习Python免费学习笔记(深入)”;

  • >> 设置上下游(如 extract >> transform >> load),也可用 set_downstream() 方法
  • retries=3 指定失败后重试次数;retry_delay=timedelta(minutes=5) 控制重试间隔
  • trigger_rule="all_success"(默认)表示所有上游成功才运行;换成 "all_done" 可让任务无论上游成败都执行(适合清理类任务)
  • 敏感参数(如数据库密码)不要硬编码,用 Airflow Connections 或 Variables 管理,代码里通过 BaseHook.get_connection("my_db").password 获取

本地调试与部署要点

别等部署到生产才发现问题:

  • 启动 Webserver 和 Scheduler 后,在 UI 中点击 DAG 名称右侧的「Trigger DAG」手动测试一次
  • 用命令行快速验证语法:airflow dags list 看是否识别;airflow tasks list my_dag_id 查任务;airflow tasks test my_dag_id task_name 2024-01-01 模拟单次运行(不走调度器,纯本地执行)
  • 生产环境建议用 CeleryExecutor 或 KubernetesExecutor,避免默认的 SequentialExecutor 只能串行跑任务
  • DAG 文件修改后,Scheduler 默认 30 秒扫描一次 dags/ 目录,无需重启服务(但语法错误会导致 DAG 显示为「paused」并报红)

基本上就这些。Airflow 强大但不复杂,关键在把逻辑切分成职责清晰的小任务,再用 DAG 连起来。写完一个能跑通的最小 DAG,后面扩展就顺了。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
全局变量怎么定义
全局变量怎么定义

本专题整合了全局变量相关内容,阅读专题下面的文章了解更多详细内容。

81

2025.09.18

python 全局变量
python 全局变量

本专题整合了python中全局变量定义相关教程,阅读专题下面的文章了解更多详细内容。

96

2025.09.18

数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

359

2023.06.29

如何删除数据库
如何删除数据库

删除数据库是指在MySQL中完全移除一个数据库及其所包含的所有数据和结构,作用包括:1、释放存储空间;2、确保数据的安全性;3、提高数据库的整体性能,加速查询和操作的执行速度。尽管删除数据库具有一些好处,但在执行任何删除操作之前,务必谨慎操作,并备份重要的数据。删除数据库将永久性地删除所有相关数据和结构,无法回滚。

2082

2023.08.14

vb怎么连接数据库
vb怎么连接数据库

在VB中,连接数据库通常使用ADO(ActiveX 数据对象)或 DAO(Data Access Objects)这两个技术来实现:1、引入ADO库;2、创建ADO连接对象;3、配置连接字符串;4、打开连接;5、执行SQL语句;6、处理查询结果;7、关闭连接即可。

349

2023.08.31

MySQL恢复数据库
MySQL恢复数据库

MySQL恢复数据库的方法有使用物理备份恢复、使用逻辑备份恢复、使用二进制日志恢复和使用数据库复制进行恢复等。本专题为大家提供MySQL数据库相关的文章、下载、课程内容,供大家免费下载体验。

256

2023.09.05

vb中怎么连接access数据库
vb中怎么连接access数据库

vb中连接access数据库的步骤包括引用必要的命名空间、创建连接字符串、创建连接对象、打开连接、执行SQL语句和关闭连接。本专题为大家提供连接access数据库相关的文章、下载、课程内容,供大家免费下载体验。

326

2023.10.09

数据库对象名无效怎么解决
数据库对象名无效怎么解决

数据库对象名无效解决办法:1、检查使用的对象名是否正确,确保没有拼写错误;2、检查数据库中是否已存在具有相同名称的对象,如果是,请更改对象名为一个不同的名称,然后重新创建;3、确保在连接数据库时使用了正确的用户名、密码和数据库名称;4、尝试重启数据库服务,然后再次尝试创建或使用对象;5、尝试更新驱动程序,然后再次尝试创建或使用对象。

412

2023.10.16

C++ 设计模式与软件架构
C++ 设计模式与软件架构

本专题深入讲解 C++ 中的常见设计模式与架构优化,包括单例模式、工厂模式、观察者模式、策略模式、命令模式等,结合实际案例展示如何在 C++ 项目中应用这些模式提升代码可维护性与扩展性。通过案例分析,帮助开发者掌握 如何运用设计模式构建高质量的软件架构,提升系统的灵活性与可扩展性。

9

2026.01.30

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.4万人学习

Django 教程
Django 教程

共28课时 | 3.7万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.3万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号