每个DAG一个吊舱,而不是Kubernetes执行器的每个任务一个吊舱?

每个DAG一个吊舱,而不是Kubernetes执行器的每个任务一个吊舱?,kubernetes,airflow,Kubernetes,Airflow,我们决定在Kubernetes上运行气流。我们希望以平衡的方式利用库伯内特斯的力量。 我们在DAG中有一些非常小的任务,例如创建目录。KuberneteSecutor为每项任务旋转一个吊舱,这需要很长时间,因此对于许多短任务来说是多余的 我的问题是,是否可以将气流配置为使Kubernetes吊舱在整个DAG中旋转,而不是每个任务旋转一个吊舱?(最好不要芹菜)我不认为每个DAG使用一个豆荚是可能的,因为: 当DAG提交任务时,KuberneteSecutor从Kubernetes API请求一个工

我们决定在Kubernetes上运行气流。我们希望以平衡的方式利用库伯内特斯的力量。 我们在DAG中有一些非常小的任务,例如创建目录。KuberneteSecutor为每项任务旋转一个吊舱,这需要很长时间,因此对于许多短任务来说是多余的


我的问题是,是否可以将气流配置为使Kubernetes吊舱在整个DAG中旋转,而不是每个任务旋转一个吊舱?(最好不要芹菜)

我不认为每个DAG使用一个豆荚是可能的,因为:

当DAG提交任务时,KuberneteSecutor从Kubernetes API请求一个工作pod。然后,worker pod运行任务、报告结果并终止

也许将多个较小的任务合并为一个任务是一种方法。


CeleryKubernetes执行器允许您使用芹菜工人的即时资源或为任务启动吊舱。我尚未配置此设置,但它似乎与您的用例相匹配。

谢谢您的回复。太糟糕了,这是不可能的,如果有一些您想要如何使用Kubernetes的配置就好了。问题是,我认为把多个小任务结合起来是违背气流设计原则的。@ Dabasy:如果这回答了你的问题,考虑一下投票和接受。关于“气流设计原则”,我不认为有任何规定你的任务应该有多精细。