Airflow 气流任务优先级

Airflow 气流任务优先级,airflow,Airflow,我有6个任务(t1、t2、t3、t4、t5和t6)同时运行 这些任务以t1>>t2>>t3>>t4>>t5>>t6的形式运行 在某个点t3出现问题,然后t4未执行,或者任何任务出现问题,然后后面的任务未执行 请告诉我如何避免这个问题。我不希望其他任务等待较早的任务完成。如果之前的任务没有在5分钟内完成,则应跳过。您的工作流连接方式不符合您的要求 不应该将相互依赖的任务连接在一起。我见过一些人这样做只是为了限制外部系统的负载;但对于这种用例,必须使用 如果希望任务在给定间隔后超时(以便下游任务可

我有6个任务(t1、t2、t3、t4、t5和t6)同时运行

这些任务以t1>>t2>>t3>>t4>>t5>>t6的形式运行

在某个点t3出现问题,然后t4未执行,或者任何任务出现问题,然后后面的任务未执行


请告诉我如何避免这个问题。我不希望其他任务等待较早的任务完成。如果之前的任务没有在5分钟内完成,则应跳过。

您的工作流连接方式不符合您的要求

  • 不应该将相互依赖的任务连接在一起。我见过一些人这样做只是为了限制外部系统的负载;但对于这种用例,必须使用

  • 如果希望任务在给定间隔后超时(以便下游任务可以继续),可以利用
    BaseOperator


t4是否需要在t3之后运行?您不必设置上游任务,只需使其与任务t1、t2、t3并行运行即可