Warning: file_get_contents(/data/phpspider/zhask/data//catemap/1/visual-studio-2008/2.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Airflow 我们如何将架构和表更改部署为工作流的一部分?_Airflow - Fatal编程技术网

Airflow 我们如何将架构和表更改部署为工作流的一部分?

Airflow 我们如何将架构和表更改部署为工作流的一部分?,airflow,Airflow,我们定期编写新的DAG,这反过来又需要红移的新模式和表。目前,我们通过与Redshift的直接交互手动创建这些模式及其表。这显然不理想。我们希望将此过程自动化,并在构建新DAG时理想地将其烘焙到我们的工作流程中 如何利用气流实现这一点?为了满足您的要求,我有一些想法: 使用Redshift JDBC,编写一些脚本以任何您觉得合适的语言执行查询。 创建新的气流DAG并调用上面的脚本,可能使用BashOperator、PythonOperator 关于迁移脚本,您可以自由控制它们。可能是sql文件,

我们定期编写新的DAG,这反过来又需要红移的新模式和表。目前,我们通过与Redshift的直接交互手动创建这些模式及其表。这显然不理想。我们希望将此过程自动化,并在构建新DAG时理想地将其烘焙到我们的工作流程中


如何利用气流实现这一点?

为了满足您的要求,我有一些想法:

使用Redshift JDBC,编写一些脚本以任何您觉得合适的语言执行查询。 创建新的气流DAG并调用上面的脚本,可能使用BashOperator、PythonOperator 关于迁移脚本,您可以自由控制它们。可能是sql文件,也可能是由任何框架管理的迁移文件。
我建议使用迁移工具,我们使用alembic,并通过CI/CD管道在每个部署上应用迁移。