Python 在数据流管道中动态设置bigquery数据集

我可以根据我在上一个数据流步骤中处理的数据将数据插入不同的bigQuery数据集吗

---

我正在创建一个数据流管道，它从PubSub订阅中读取数据并写入大查询表。其定义如下：

def run(argv=None, save_main_session=True):
    options: PipelineOptions = PipelineOptions(
        project='project-id',
        runner='DataflowRunner',
        region='region',
        streaming=True,
        setup_file='dataflow/setup.py',
        autoscaling_algorithm='THROUGHPUT_BASED',
        job_name='telemetry-processing'
    )

    with beam.Pipeline(options=options) as p:
        status = (
                p
                 | 'Get Status PubSub' >> beam.io.ReadFromPubSub(
            subscription='projects/project-id/subscriptions/subscription-id',
            with_attributes=True))

        status_records = (status| 'Proto to Dict' >> beam.Map(lambda x: 
convert_proto_to_dict(x, nozzle_status_proto.NozzleStatus)) )

        status_records | 'Write status to BQ' >> beam.io.WriteToBigQuery('project- 
id:dataset-id.table-id')

         bytes_status = (status | 'Get Bytes Result' >> beam.ParDo(GetBytes()))
         bytes_status | 'Write to BQ BackUp' >> beam.io.WriteToBigQuery(
        'project-id:dataset-id.backup-table-id')

对于给定的输入和输出，它完全按照预期工作。
我想要的是，关于PubSubMessage中的特定属性，定义消息应该放在哪个数据集上。 所以我需要改变的部分是：

status_records | 'Write status to BQ' >> beam.io.WriteToBigQuery('project-id:dataset-id.table-id')

我已经尝试提取所需的数据，并像这样使用它：

status_records | 'Write status to BQ' >> beam.io.WriteToBigQuery('project-id:{data-from-previous-step}.table-id')

但是我们不能直接从PCollection获取数据

我试图像本文（）中那样覆盖WriteToBigQuery，但没有收到任何错误，也没有插入任何内容

我不知道如何实现这一点。
你知道我应该从哪里开始做这件事吗？
是否必须为n个数据集创建n个管道？

WriteToBigQuery的“table”参数可以是从元素到它应该写入的表的函数。例如：

status_records | 'Write' >> beam.io.WriteToBigQuery(
  lambda e: 'dataset1.invalid_records' if is_invalid(e) else 'dataset2.good_records')

---

这应该是可能的。例子：