Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/spring/14.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Java 如何在Google云平台中配置特定的数据管道?_Java_Spring_Google Cloud Platform_Google Cloud Storage - Fatal编程技术网

Java 如何在Google云平台中配置特定的数据管道?

Java 如何在Google云平台中配置特定的数据管道?,java,spring,google-cloud-platform,google-cloud-storage,Java,Spring,Google Cloud Platform,Google Cloud Storage,我有一个任务来实现一个在中运行的后端服务(Java/Spring) 云运行并在GCP中创建(配置)一个数据管道,该管道将此服务用于 自动处理正在上载到服务器的带有嵌入式架构的Avro文件 云存储桶。当新文件上传到bucket时,我需要对其进行处理,并以特定的方式将其解析到BigQuery 所以,我成功地部署了Spring应用程序并设计了avro模式。我发现google有关于如何将avros加载到BigQuery的示例,我认为这可以应用于此任务 我坚持上传事件(或者可能是数据管道配置?)。我真的不

我有一个任务来实现一个在中运行的后端服务(Java/Spring) 云运行并在GCP中创建(配置)一个数据管道,该管道将此服务用于 自动处理正在上载到服务器的带有嵌入式架构的Avro文件 云存储桶。当新文件上传到bucket时,我需要对其进行处理,并以特定的方式将其解析到BigQuery

所以,我成功地部署了Spring应用程序并设计了avro模式。我发现google有关于如何将avros加载到BigQuery的示例,我认为这可以应用于此任务


我坚持上传事件(或者可能是数据管道配置?)。我真的不知道如何处理文件上传事件(我想我需要在上传新文件时获取它的URI)。我试图阅读有关谷歌数据流的文章,但我不认为这是我的任务所需要的。你能给我一些建议我应该怎么做吗。

选择之一是使用云功能。 另一个选择是订阅。 还有一个选择是使用Google的CloudDataflow Runner


在重载情况下,有时触发事件可能会被复制,因此您需要确保单个文件不会被您的云功能多次处理。

谢谢@Sergey,我刚刚读了一些关于云功能的文章,但我非常感谢您提到了另外两种方法