Google bigquery 是否可以在AWS S3上对拼花地板文件编写/运行BigQuery?

Google bigquery 是否可以在AWS S3上对拼花地板文件编写/运行BigQuery?,google-bigquery,Google Bigquery,我们想检查外部商店拼花文件的BigQuery性能。这些拼花文件存储在AWS S3上。无需将文件传输到GCP,就可以编写可以在AWS S3存储的拼花文件数据集上运行的BigQuery。不,这是不可能的。BigQuery支持“外部表”,其中数据作为文件存在于谷歌云存储中,但不支持其他云文件存储,包括AWS S3 您需要将文件从S3复制/移动到云存储,然后对其使用BigQuery,或者使用类似的AWS服务(如Athena)在S3上原位查询文件。您可以使用,它允许您自动调度和管理从Amazon S3到B

我们想检查外部商店拼花文件的BigQuery性能。这些拼花文件存储在AWS S3上。无需将文件传输到GCP,就可以编写可以在AWS S3存储的拼花文件数据集上运行的BigQuery。

不,这是不可能的。BigQuery支持“外部表”,其中数据作为文件存在于谷歌云存储中,但不支持其他云文件存储,包括AWS S3

您需要将文件从S3复制/移动到云存储,然后对其使用BigQuery,或者使用类似的AWS服务(如Athena)在S3上原位查询文件。

您可以使用,它允许您自动调度和管理从Amazon S3到BigQuery的重复加载作业,并允许以拼花格式加载数据。在本文中,您将找到有关如何设置AmazonS3数据传输的文档