Google cloud platform Google数据流作业失败,返回“0”;上载的数据不足”;错误

Google cloud platform Google数据流作业失败,返回“0”;上载的数据不足”;错误,google-cloud-platform,google-cloud-dataflow,apache-beam,Google Cloud Platform,Google Cloud Dataflow,Apache Beam,我正在尝试创建一个数据流作业,该作业处理数千个文件,并为每个文件写入GCS中的不同目标 我必须做大量的文本输入作为源,并作为单独的流写入目标。示例代码段如下所示: List pcs=new ArrayList(); 对于(int i=0;i

我正在尝试创建一个数据流作业,该作业处理数千个文件,并为每个文件写入GCS中的不同目标

我必须做大量的文本输入作为源,并作为单独的流写入目标。示例代码段如下所示:

List pcs=new ArrayList();
对于(int i=0;i<2000;i++){
pcs.add(p.apply(TextIO.Read.from)(“gs://wushilin asia/some folder/input-“+i+”/*”));
}
对于(int i=0;i<2000;i++){
pcs.get(i).apply(TextIO.Write.to)(“gs://wushilin asia/some folder/output-“+i+”/”);
}

p、 run()结果是数据流结构太复杂,数据流作业元数据存储无法处理它。减少组件数量解决了这个问题

结果是数据流结构太复杂,数据流作业元数据存储无法处理它。减少组件数量解决了这一问题