Google cloud platform 使用DataflowTempleOperator编写器数据流作业错误
我试图使用Composer运行标准GCS_文本到Bigquery标准模板作业,并获得如下所示的http错误。我可以在数据流中成功运行并手动创建作业 我是否正确地传递了参数Google cloud platform 使用DataflowTempleOperator编写器数据流作业错误,google-cloud-platform,airflow,dataflow,google-cloud-composer,orchestration,Google Cloud Platform,Airflow,Dataflow,Google Cloud Composer,Orchestration,我试图使用Composer运行标准GCS_文本到Bigquery标准模板作业,并获得如下所示的http错误。我可以在数据流中成功运行并手动创建作业 我是否正确地传递了参数 ERROR - <HttpError 400 when requesting https://dataflow.googleapis.com/v1b3/projects/XXXXXX/locations/xyz/templates:launch?gcsPath=gs%3A%2F%2Fdataflow-templates%
ERROR - <HttpError 400 when requesting https://dataflow.googleapis.com/v1b3/projects/XXXXXX/locations/xyz/templates:launch?gcsPath=gs%3A%2F%2Fdataflow-templates%2Flatest%2FGCS_Text_to_BigQuery&alt=json returned "The template parameters are invalid.". Details: "[{'@type': 'type.googleapis.com/google.dataflow.v1beta3.InvalidTemplateParameters', 'parameterViolations': [{'parameter': 'javascriptTextTransformFunctionName', 'description': 'Missing required parameter'}, {'parameter': 'TransformFunctionName', 'description': 'Unrecognized parameter'}, {'parameter': 'serviceAccount', 'description': 'Unrecognized parameter'}, {'parameter': 'project', 'description': 'Unrecognized parameter'}, {'parameter': 'subnetwork', 'description': 'Unrecognized parameter'}]}]"
ERROR-您收到的错误非常清楚。一些参数(项目
,子网络
,服务账户
,TransformFunctionName
)无法识别,并且缺少javascriptTextTransformFunctionName
再次检查如何使用DataflowTemplateOperator启动作业以及
简而言之,TransformFunctionName
应重命名为javascriptTextTransformFunctionName
和project
,子网络
和服务账户
应该从参数
dict中删除,并在数据流(默认)选项
dict中指定。谢谢itroulli-它工作起来像一个charmI,我很高兴我帮了忙!请根据答案接受正确答案