使用airflow运行包含许多SQL Server存储过程和Python脚本的长流程是一个好主意吗?

使用airflow运行包含许多SQL Server存储过程和Python脚本的长流程是一个好主意吗?,python,sql-server,automation,airflow,Python,Sql Server,Automation,Airflow,我对气流是完全陌生的,并试图找出它是否适合我的流程 我有一个很长的工作流,它运行许多SQL Server存储过程和许多Python脚本,这些脚本一个接一个地处理大量数据并生成报告 这是正确的工具吗?你能推荐一些能帮助我完成任务的教程/书籍/文档吗 如果气流不是答案,你推荐什么 提前谢谢 我的方法是使用Airflow,将源表从sql server复制到某个分析数据库(大查询/雪花),并在许多步骤中根据数据管道中的分析数据库处理工作负载。感谢您的回复。我有一个后续问题:您采用这种方法的原因是无法将S

我对气流是完全陌生的,并试图找出它是否适合我的流程

我有一个很长的工作流,它运行许多SQL Server存储过程和许多Python脚本,这些脚本一个接一个地处理大量数据并生成报告

这是正确的工具吗?你能推荐一些能帮助我完成任务的教程/书籍/文档吗

如果气流不是答案,你推荐什么


提前谢谢

我的方法是使用Airflow,将源表从sql server复制到某个分析数据库(大查询/雪花),并在许多步骤中根据数据管道中的分析数据库处理工作负载。感谢您的回复。我有一个后续问题:您采用这种方法的原因是无法将SQL server与Airflow一起使用?不,可以将SQL server与Airflow一起使用。这取决于SQL Server的主要用途是处理分析查询,在这种情况下,您应该继续使用它。若您的SQL server更像事务数据库,那个么您应该对更适合生成报告的数据库执行数据提取ETL。。。