Airflow 如何去除气流中不需要的破损DAG

Airflow 如何去除气流中不需要的破损DAG,airflow,Airflow,我在我的sql\u test.py中写了一些错误,并运行了python sql\u test.py,错误是“没有名为xxx的模块”,在web ui中它显示了一个红色错误-断开的DAG。 然后我运行气流列表\u dags同样的错误再次出现。这很奇怪,我不知道发生了什么。 我试图运行气流删除sql\u测试,但没有这样的id。 我怎样才能: 删除web ui中的衰减 从列表中获取sql\u测试 dag定义文件中存在一些语法错误,导致解析dag失败。当Airflow无法解析DAG时,一些功能会被破坏(如

我在我的
sql\u test.py
中写了一些错误,并运行了
python sql\u test.py
,错误是“没有名为xxx的模块”,在web ui中它显示了一个红色错误-断开的DAG。 然后我运行
气流列表\u dags
同样的错误再次出现。这很奇怪,我不知道发生了什么。 我试图运行
气流删除sql\u测试
,但没有这样的id。 我怎样才能:

  • 删除web ui中的衰减
  • 列表中获取
    sql\u测试

  • dag定义文件中存在一些语法错误,导致解析dag失败。当Airflow无法解析DAG时,一些功能会被破坏(如您的案例中的
    list\u DAG


    当然,删除有问题的dag定义文件可以修复它,但这不是一个解决方案。因此,以下是您如何理解错误并修复它的方法

    • 从linux shell,转到

      cd$afflow\u HOME/logs/scheduler/latest/

    • 运行以查看目录结构

      tree-I“uuu init_uuuuuuuuuuupy | uuuupycache_uuuuuuuuu124;*.pyc”

    • 对应的已断开dag的日志文件的

      tail-n 25/path/to/my/breaked dag.py.log

    这将为您提供尝试解析损坏的dag文件时Airflow抛出的堆栈跟踪。这将有望帮助您诊断问题并修补它


    修复dag定义文件后

    • 损坏的dag
      消息将从UI中消失
    • DAG将出现在UI中(刷新几次)
    • list\u dags
      命令也将开始工作

    如果不想修复DAG并忽略它,可以通过在.airflowignore文件中指定DAG的基础文件来删除不需要的DAG