Google cloud data fusion 是否可以使用云数据融合管道在BigQuery数据集中修改或删除表中的行?

Google cloud data fusion 是否可以使用云数据融合管道在BigQuery数据集中修改或删除表中的行?,google-cloud-data-fusion,cdap,Google Cloud Data Fusion,Cdap,我需要构建DataStudio仪表板并使用来自BigQuery数据集的数据 我已使用数据融合从内部部署的MS SQL server将数据导入BQ,要求我必须删除最后5天的记录,并在BQ数据集中的记录之上导入相同时间范围内的新更新记录 到目前为止,我能够使用管道完成所有工作,但当我运行管道时,它确实会将数据再次附加到BQ表中,我最终得到了重复的数据 我正在寻找一种方法,在BQ从管道接收新数据之前,对BQ中的数据进行一些操作。数据融合中有什么可以帮助解决这个问题吗 关于我们最近将此功能添加到谷歌云插

我需要构建DataStudio仪表板并使用来自BigQuery数据集的数据

我已使用数据融合从内部部署的MS SQL server将数据导入BQ,要求我必须删除最后5天的记录,并在BQ数据集中的记录之上导入相同时间范围内的新更新记录

到目前为止,我能够使用管道完成所有工作,但当我运行管道时,它确实会将数据再次附加到BQ表中,我最终得到了重复的数据

我正在寻找一种方法,在BQ从管道接收新数据之前,对BQ中的数据进行一些操作。数据融合中有什么可以帮助解决这个问题吗


关于

我们最近将此功能添加到谷歌云插件中。你可以查一下电话号码。您可以等待新版本的google云插件发布,也可以在本地构建,并在正在测试的数据融合实例中安装插件


希望这能有所帮助。

非常感谢您的反馈!预计何时发布有什么想法?或者我应该直接从Github编译当前版本,而不是等待?最好是在本地编译插件,并将其部署到测试环境中。这将帮助您更快地解除阻塞。