Airflow 气流可以用来运行一个永无止境的任务吗?

Airflow 气流可以用来运行一个永无止境的任务吗?,airflow,apache-airflow,airflow-scheduler,Airflow,Apache Airflow,Airflow Scheduler,通过将任务/dag超时设置为“无”并手动触发其运行,我们是否可以使用dag来定义一个永无止境的作业(即,具有消耗流数据的无条件循环的任务)?让气流监测器执行一项永无止境的任务会导致问题吗? 谢谢,通过气流运行这个有点奇怪,但我认为这不是问题。只需注意,如果重新启动运行作业的工作程序(假设为CeleryExecutor),则会中断任务,并且如果未设置重试,则需要再次手动启动任务。另外,请确保DAG设置执行超时=无(默认值)。您可以使用一个传感器监测“数据是否存在”,然后触发DAG进行一些处理。这是

通过将任务/dag超时设置为“无”并手动触发其运行,我们是否可以使用dag来定义一个永无止境的作业(即,具有消耗流数据的无条件循环的任务)?让气流监测器执行一项永无止境的任务会导致问题吗?
谢谢,通过气流运行这个有点奇怪,但我认为这不是问题。只需注意,如果重新启动运行作业的工作程序(假设为CeleryExecutor),则会中断任务,并且如果未设置
重试
,则需要再次手动启动任务。另外,请确保DAG设置执行超时=无(默认值)。

您可以使用一个传感器监测“数据是否存在”,然后触发DAG进行一些处理。这是你想要的吗?请让我知道。

不太清楚。感谢您的回复,但该用例是流日志的真正消耗。之前的回复就是我想要的。