Concurrency 如何在气流中调节当前作业?
我是个新手。但我现在正在研究如何在气流中调节当前的工作。是否有人对并发性或气流节流略知一二。任何建议都会有帮助。Concurrency 如何在气流中调节当前作业?,concurrency,throttling,optimistic-concurrency,airflow,database-concurrency,Concurrency,Throttling,Optimistic Concurrency,Airflow,Database Concurrency,我是个新手。但我现在正在研究如何在气流中调节当前的工作。是否有人对并发性或气流节流略知一二。任何建议都会有帮助。 非常感谢。如果要限制dag中的任务,需要定义其“并发性”参数 “并发性”定义一个DAG允许有多少个正在运行的任务实例 拥有,超过这一点,事情就会排队 如果要全局限制任务,请查看配置文件的以下几行 作为执行器设置的并行量。这就定义了 应同时运行的最大任务实例数 在这个气流装置上 平行度=32 及 计划程序允许并发运行的任务实例数 dag_并发=16 第一个是全局的,第二个是所有DAG的
非常感谢。如果要限制dag中的任务,需要定义其“并发性”参数 “并发性”定义一个DAG允许有多少个正在运行的任务实例 拥有,超过这一点,事情就会排队
如果要全局限制任务,请查看配置文件的以下几行 作为执行器设置的并行量。这就定义了 应同时运行的最大任务实例数 在这个气流装置上 平行度=32 及 计划程序允许并发运行的任务实例数 dag_并发=16 第一个是全局的,第二个是所有DAG的并发默认值