Google bigquery 计划将BigQuery表加载到ApacheIgnite中的任务

Google bigquery 计划将BigQuery表加载到ApacheIgnite中的任务,google-bigquery,ignite,Google Bigquery,Ignite,我有一个用例,我们需要定期将BigQuery表加载到缓存中,并从中支持SQL查询。我正在研究ApacheIgnite,认为它非常适合我们的用例。只是我还不清楚如何从BigQuery获得自动加载。通过“自动加载”,我的意思是使用BigQuery表数据更新ApacheIgnite,并使此更新对应用程序透明。在大多数情况下,我们的BigQuery表由其他计划作业/查询更新,更新间隔为5分钟到1个月 我是新手,我想我的问题如下: 这是Ignite中已经支持的功能吗?(我找不到) 或者已经有退出的插件了吗

我有一个用例,我们需要定期将BigQuery表加载到缓存中,并从中支持SQL查询。我正在研究ApacheIgnite,认为它非常适合我们的用例。只是我还不清楚如何从BigQuery获得自动加载。通过“自动加载”,我的意思是使用BigQuery表数据更新ApacheIgnite,并使此更新对应用程序透明。在大多数情况下,我们的BigQuery表由其他计划作业/查询更新,更新间隔为5分钟到1个月

我是新手,我想我的问题如下:

  • 这是Ignite中已经支持的功能吗?(我找不到)

  • 或者已经有退出的插件了吗?(我找不到)

  • 如何使用Ignite实现BigQuery的自动加载缓存


  • 可以使用Cache Store/loadCache()执行一次,但每隔几分钟执行一次是不可行的。如果Apache Ignite支持增量推送,您可能希望为其设计一个BigQuery拖缆。

    您可以使用Cache Store/loadCache()执行一次,但每隔几分钟执行一次是不可行的。如果ApacheIgnite支持增量推送,您可能希望设计一个BigQuery streamer到ApacheIgnite。

    如果Google BigQuery没有打开CDC工具的changelog文件,那么您可以找到如何以不同的方式捕获这些更新,并通过其
    IgniteDataStreamer
    API将其流式传输到Ignite。应该有一种方法可以通过一些发布/订阅机制捕获更改。

    如果Google BigQuery没有为CDC工具打开其changelog文件,那么可以找到如何以不同的方式捕获这些更新,并通过其
    IgniteDataStreamer
    API将其流式传输到Ignite。应该有一种方法可以通过一些发布/订阅机制捕获更改