码迷,mamicode.com
首页 > 其他好文 > 详细

airflow中跨dag/task的数据传送

时间:2020-11-30 15:56:18      阅读:6      评论:0      收藏:0      [点我收藏+]

标签:code   efault   load   exec   pre   独立   interval   div   推送   

默认在airflow中每个task都是独立的进程,无法进行数据交换,但airflow还提供了一个XCom功能,以满足用户的类似需求

下面我们创建两个dag,其中一个push数据,一个pull数据,如下的dag中的task(push)执行完后会推送一条数据到xcom表,key=push ,value=True

dag = DAG(
    dag_id=migrate_mongo,
    default_args=args,
    schedule_interval=0 17 * * *,
    catchup=False
)


def push(**kwargs):
    kwargs[ti].xcom_push(key=status, value=True)

task1 = PythonOperator(task_id=push,
                       python_callable=push,
                       provide_context=True,
                       dag=dag)

另起一个dag,创建一个task(pull)可以将上面的dag中的数据获取到

dag = DAG(
    dag_id=migrate_mongo2,
    default_args=args,
    schedule_interval=0 17 * * *,
    catchup=False
)


def pull(**kwargs):
    execution_date = kwargs[execution_date]
    v1 = XCom.get_one(dag_id=migrate_mongo, task_id=push, execution_date=execution_date)
    print(v1)

task2 = PythonOperator(task_id=pull,
                       python_callable=pull,
                       provide_context=True,
                       dag=dag)

两个dag之间其实通过airflow底层的一张xcom表进行数据交换的

技术图片

 

airflow中跨dag/task的数据传送

标签:code   efault   load   exec   pre   独立   interval   div   推送   

原文地址:https://www.cnblogs.com/wangbin2188/p/14035783.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!