Google bigquery BigQuery-使用并行分页检索大量行

Google bigquery BigQuery-使用并行分页检索大量行,google-bigquery,Google Bigquery,我需要尽快检索大型查询结果。 BQ允许顺序分页,但耗时太长(10分钟内有200K行) 是否可以进行并行分页?如果可以,性能是否会随着并行请求的数量而实际提高?因为您可能知道您的查询结果是匿名写入到表中的,或者您可以为其指定一个永久名称 有了这个表,您可以使用tabledata.listAPI调用从中获取数据。在可选参数下,您将看到一个startIndex参数,您可以将其设置为任何您想要的,并且可以在分页脚本中使用 您可以使用不同的偏移量来运行并行API调用,这将加快您的请求。如果数据太大,确保你

我需要尽快检索大型查询结果。 BQ允许顺序分页,但耗时太长(10分钟内有200K行)


是否可以进行并行分页?如果可以,性能是否会随着并行请求的数量而实际提高?

因为您可能知道您的查询结果是匿名写入到表中的,或者您可以为其指定一个永久名称

有了这个表,您可以使用
tabledata.list
API调用从中获取数据。在可选参数下,您将看到一个
startIndex
参数,您可以将其设置为任何您想要的,并且可以在分页脚本中使用

您可以使用不同的偏移量来运行并行API调用,这将加快您的请求。如果数据太大,确保你没有打击你的坏习惯


谢谢。我知道这一点。只是想了解是否有更多的托管解决方案。例如,问题之一是我不知道advance在一个块中返回的行数。如果我选择将200K分成10个20K的请求,BQ仍然每次只返回8K行。这意味着最终我会执行10X3请求来获取所有数据。有解决方案吗?据我所知,您需要编写脚本,您可能需要有两个级别的分页