谷歌云数据流Python——maxNumWorkers
我试图增加使用Apache Beam的python SDK构建的数据流管道的工作人员数量,我发现有文档建议设置谷歌云数据流Python——maxNumWorkers,python,google-cloud-platform,google-cloud-dataflow,Python,Google Cloud Platform,Google Cloud Dataflow,我试图增加使用Apache Beam的python SDK构建的数据流管道的工作人员数量,我发现有文档建议设置--maxNumWorkers=标志足以将最大工作人员数量增加到超过默认值15。但是,当我将此标志添加到管道选项时,它似乎不起作用。我回顾了文档中的执行参数选项,注意到Python“Specifying Other Cloud Pipeline options”(指定其他云管道选项)中没有列出maxNumWorkers,而它确实出现在Java SDK中——这是Python包的已知限制吗?
--maxNumWorkers=
标志足以将最大工作人员数量增加到超过默认值15。但是,当我将此标志添加到管道选项时,它似乎不起作用。我回顾了文档中的执行参数选项,注意到Python“Specifying Other Cloud Pipeline options”(指定其他云管道选项)中没有列出maxNumWorkers
,而它确实出现在Java SDK中——这是Python包的已知限制吗?在python管道选项中设置maxNumWorkers还有其他选项吗
注意:我已经确认这不是配额问题,因为我可以指定
--num_workers=100
,但这(我相信)不会使用自动缩放算法,因为它会立即将工人数量设置为100。在Python中,该选项看起来是。在Python中,该选项看起来是