如何在Airflow中创建动态创建的任务之间的依赖关系
我正在使用下面的代码创建动态任务。我想创建对这些动态创建的任务的依赖关系。例如,runStep_0应该依赖于runStep_1等如何在Airflow中创建动态创建的任务之间的依赖关系,airflow,Airflow,我正在使用下面的代码创建动态任务。我想创建对这些动态创建的任务的依赖关系。例如,runStep_0应该依赖于runStep_1等 for i in range(4): task = BashOperator( task_id='runstep_' + str(i), bash_command=cmd dag=dag) 终于找到了出路。在每次迭代期间,将每个任务添加到列表中,并从列表中引用它 在第一次迭代的循环中,将当前任务保存到前一个任务变量中 在第一次迭代之
for i in range(4):
task = BashOperator(
task_id='runstep_' + str(i),
bash_command=cmd
dag=dag)
终于找到了出路。在每次迭代期间,将每个任务添加到列表中,并从列表中引用它 在第一次迭代的循环中,将当前任务保存到前一个任务变量中
在第一次迭代之后,只需设置task.set_upstream(previous_task)并使用previous_task=task更新变量。类似的问题和答案如下所示。将任务添加到一个列表中,然后添加一个简单的一行程序来绑定每个任务之间的依赖关系
a = []
for i in range(0,10):
a.append(DummyOperator(
task_id='Component'+str(i),
dag=dag))
if i not in [0]:
a[i-1] >> a[i]
生成此图形
设置Jorge在我看来提到的前一个任务变量是最具可读性的解决方案,特别是如果每次迭代有多个任务 代码如下:
previous_task = None
for i in range(4):
task = BashOperator(
task_id=f'task-{i}',
bash_command=f'echo {i}',
)
if previous_task is not None:
previous_task >> task
else:
previous_task = task
这里是多任务情况下的示例
previous_task = None
for i in range(4):
task_x = BashOperator(
task_id=f'task_x-{i}',
bash_command=f'echo {i}',
)
task_y = BashOperator(
task_id=f'task_y-{i}',
bash_command=f'echo {i}',
)
task_x >> task_y
if previous_task is not None:
previous_task >> task_x
else:
previous_task = task_y