在长时间运行作业期间重新启动时,Airflow scheduler最终会卡住

在长时间运行作业期间重新启动时,Airflow scheduler最终会卡住,airflow,defunct,Airflow,Defunct,我有一个气流调度器,它是通过设置--运行持续时间86400(24小时)启动的。 在此时间之后,调度程序“死亡”,并将自动重新启动。 只要没有长时间运行的作业(比如2小时),这项工作就可以了 在24小时结束前不久启动。 在这种情况下,我会让一个调度程序进程处理长时间运行的任务,然后 所有其他人都是僵尸(已不存在)。将不会为该项目处理任何其他作业 长时间运行作业的持续时间 我在和LocalExecutor合作 我的问题是: 是否保存以允许计划程序无限期运行(不带--运行持续时间或–num_运行)

我有一个气流调度器,它是通过设置
--运行持续时间86400
(24小时)启动的。 在此时间之后,调度程序“死亡”,并将自动重新启动。 只要没有长时间运行的作业(比如2小时),这项工作就可以了 在24小时结束前不久启动。 在这种情况下,我会让一个调度程序进程处理长时间运行的任务,然后 所有其他人都是僵尸(已不存在)。将不会为该项目处理任何其他作业 长时间运行作业的持续时间

我在和LocalExecutor合作

我的问题是:

  • 是否保存以允许计划程序无限期运行(不带
    --运行持续时间
    –num_运行
  • 芹菜或达斯克遗嘱执行人也会发生类似的事情吗

据我所知,当使用LocalExecuter运行作业时,实际任务由调度程序的子进程运行,因此调度程序必须等到所有任务完成后才能重新启动。在此期间,不会启动任何新任务

在CeleryExecuter下,Celery实际上正在运行任务,因此您不应该遇到此问题