Python Google共享驱动器到BigQuery连接器

Python Google共享驱动器到BigQuery连接器,python,google-bigquery,google-drive-api,google-drive-shared-drive,Python,Google Bigquery,Google Drive Api,Google Drive Shared Drive,我想编写一个python连接器,将Google Drive(共享驱动器)上新添加的CSV移动到BigQuery 我知道 例如,从GC存储中很容易实现数据的自动流动,但不确定如何连接到Google Drive API(共享驱动器),搜索新添加的CSV(在许多目录中)并将其作为表添加到BigQuery。我认为不可能在BigQuery中搜索新添加的CSV和目录。如果查看,您将看到需要指定驱动器URI来查询GoogleDrive中的表,这对于每个文件都是唯一的 不过,您可以使用GoogleDrive中的

我想编写一个python连接器,将Google Drive(共享驱动器)上新添加的CSV移动到BigQuery

我知道


例如,从GC存储中很容易实现数据的自动流动,但不确定如何连接到Google Drive API(共享驱动器),搜索新添加的CSV(在许多目录中)并将其作为表添加到BigQuery。

我认为不可能在BigQuery中搜索新添加的CSV和目录。如果查看,您将看到需要指定驱动器URI来查询GoogleDrive中的表,这对于每个文件都是唯一的


不过,您可以使用GoogleDrive中的AppScript来完成这一任务。查看有关如何执行此操作的教程。

谢谢。是否可以在不下载到本地的情况下将其加载到BQ?感谢你提到的帖子,我列出了所有需要上传到BQ的csv ID。我按修改日期和父文件夹对它们进行了筛选。现在我有到文件的驱动器URI,不知道如何使用itOK,我想我有了它-我从BigQuery像临时表一样查询驱动器上的CSV,选择所有行到df,然后从DataFrame加载表我不确定您想要什么。是否要将外部表加载到非外部的正确表中?您可以使用Pandas数据框,或者只需执行以下操作:
CREATE TABLE my_dataset.my_non_external_TABLE AS SELECT*,FROM my_dataset.my_external_TABLE
Ok,根据您建议的文章,我写了一篇描述我的用例的文章: