Google cloud platform 如何使用Cloud函数中的一些运行时参数执行Cloud Composer DAG

Google cloud platform 如何使用Cloud函数中的一些运行时参数执行Cloud Composer DAG,google-cloud-platform,google-cloud-functions,airflow,airflow-scheduler,google-cloud-composer,Google Cloud Platform,Google Cloud Functions,Airflow,Airflow Scheduler,Google Cloud Composer,我正在寻找一个从Cloud函数启动Cloud Composer DAG执行的示例。我还想从Cloud函数传递一些变量。这些变量必须在创建DAG的Python代码中使用 请帮我提供一些参考资料。提前感谢。如果您想要更多关于基于事件的DAG触发器使用云函数的信息,我建议您阅读本文。它解释了设置云功能的所有步骤 阅读上面链接中的说明,这里有一个主题“创建函数”,您可以看到如何创建main.py和Requerients.txt文件的示例。此外,您还可以看到关于编写云函数的进一步解释 GitHub上还有一

我正在寻找一个从Cloud函数启动Cloud Composer DAG执行的示例。我还想从Cloud函数传递一些变量。这些变量必须在创建DAG的Python代码中使用


请帮我提供一些参考资料。提前感谢。

如果您想要更多关于基于事件的DAG触发器使用云函数的信息,我建议您阅读本文。它解释了设置云功能的所有步骤

阅读上面链接中的说明,这里有一个主题“创建函数”,您可以看到如何创建main.pyRequerients.txt文件的示例。此外,您还可以看到关于编写云函数的进一步解释

GitHub上还有一些用于编写Composer的工具,可能会对您的启动有所帮助

最后,我希望您注意是否安装了python依赖项并将Cloud Composer连接到其他环境,有关更多详细信息,请参阅本文

更新:

关于将参数从Cloud函数传递到DAG,这取决于要作为变量传递的参数。根据这一点,您可以将varibales作为执行日期或文件名作为变量传递。文件名可以如下所示:

  • input_file={{dag_run.conf[“name”]}

  • 然后在bash操作符中设置“bash_command='echo'+input_file)”

  • 设置dag_run.conf“name”字段⇒ gcloud beta composer环境运行myenvironment--location=europe-west1 trigger_dag---c'{“name”:“Hello World”}myDAG


  • 我会鼓励你阅读关于和(也是为蟒蛇学家)。此外,还有一个帮助从气流中访问变量的方法。

    如果您想了解有关云函数用于基于事件的DAG触发器的更多信息,我建议您阅读此方法。它解释了设置云功能的所有步骤

    阅读上面链接中的说明,这里有一个主题“创建函数”,您可以看到如何创建main.pyRequerients.txt文件的示例。此外,您还可以看到关于编写云函数的进一步解释

    GitHub上还有一些用于编写Composer的工具,可能会对您的启动有所帮助

    最后,我希望您注意是否安装了python依赖项并将Cloud Composer连接到其他环境,有关更多详细信息,请参阅本文

    更新:

    关于将参数从Cloud函数传递到DAG,这取决于要作为变量传递的参数。根据这一点,您可以将varibales作为执行日期或文件名作为变量传递。文件名可以如下所示:

  • input_file={{dag_run.conf[“name”]}

  • 然后在bash操作符中设置“bash_command='echo'+input_file)”

  • 设置dag_run.conf“name”字段⇒ gcloud beta composer环境运行myenvironment--location=europe-west1 trigger_dag---c'{“name”:“Hello World”}myDAG


  • 我会鼓励你阅读关于和(也是为蟒蛇学家)。此外,还有一个帮助访问气流变量的选项。

    我看到有一个选项可以从Cloud函数触发Cloud Composer DAG,但显然没有介绍如何将变量从Cloud函数传递到Cloud Composer DAG。你有这样的参考资料吗?我正在查阅文件,看看是否有可能。我很快就会回来的。@BalajeeVenkatesh,如果您想传递文件名或执行日期,例如,作为可以在DAG中访问的参数,您可以使用bash操作符。bash_命令模板是一个模板。我用一些有用的链接和一个例子更新了答案。我希望这会有所帮助。我看到有一个选项可以从Cloud函数触发Cloud Composer DAG,但显然没有介绍如何将变量从Cloud函数传递到Cloud Composer DAG。你有这样的参考资料吗?我正在查阅文件,看看是否有可能。我很快就会回来的。@BalajeeVenkatesh,如果您想传递文件名或执行日期,例如,作为可以在DAG中访问的参数,您可以使用bash操作符。bash_命令模板是一个模板。我用一些有用的链接和一个例子更新了答案。我希望有帮助。