python luigi意外死亡,退出代码为-11

python luigi意外死亡,退出代码为-11,python,text-mining,gensim,luigi,Python,Text Mining,Gensim,Luigi,我有一个带有luigi的数据管道,如果我让一名工作人员执行任务,该管道工作得非常好。但是,如果我放置了>1个worker,那么它将在一个具有2个依赖项的阶段中消亡(退出代码为-11,这是出人意料的)。代码相当复杂,因此很难给出最低限度的示例。事情的要点是,我正在用gensim做以下事情: 从一些文本构建词典 根据上述文本和词典构建语料库(需要(1)) 从语料库和词典中训练LDA模型(需要(1)和(2)) 出于某种原因,每次我放置多个工作人员时,步骤(3)都会崩溃,即使(1)和(2)已经完成 任何

我有一个带有
luigi
的数据管道,如果我让一名工作人员执行任务,该管道工作得非常好。但是,如果我放置了>1个worker,那么它将在一个具有2个依赖项的阶段中消亡(退出代码为-11,这是出人意料的)。代码相当复杂,因此很难给出最低限度的示例。事情的要点是,我正在用gensim做以下事情:

  • 从一些文本构建词典
  • 根据上述文本和词典构建语料库(需要(1))
  • 从语料库和词典中训练LDA模型(需要(1)和(2))
  • 出于某种原因,每次我放置多个工作人员时,步骤(3)都会崩溃,即使(1)和(2)已经完成

    任何帮助都将不胜感激

    编辑:以下是日志信息的示例。TrainLDA是任务(3)。之后还有两项任务需要培训。所有以前的任务都已正确完成。我将TrainLDA的参数替换为
    ,这样输出将更具可读性。额外的信息只是我们用来帮助我们知道发生了什么的
    print
    语句

    黛布


    每一步都是一个
    luigi.Task
    ,顺便问一下,task3只生成一次吗?还是平行的一系列时间?如果它只产生一次,那么拥有多个工人无论如何都不会有任何帮助。只有一次。实际上他们都是。问题是,在1之前,多个任务是并行处理的(它们处理文本文件),因此需要更多的工作人员?是否有较长的错误消息?你确定是-11而不是11?看起来很奇怪。你在这方面有什么进展吗?我在MacOS上遇到了与Luigi相同的问题,这可能是后者的问题?
    UG: Pending tasks: 3
    DEBUG: Asking scheduler for work...
    INFO: [pid 28851] Worker Worker(salt=514562349, workers=4, host=felipe.local, username=Felipe, pid=28825) running   TrainLDA(...)
    INFO: Done
    INFO: There are no more tasks to run at this time
    INFO: TrainLDA(...) is currently run by worker Worker(salt=514562349, workers=4, host=felipe.local, username=Felipe, pid=28825)
    ==============================
    Corriendo LDA de spanish con nivel de limpieza stopwords
    ==============================
    Número de tópicos: 40
    DEBUG: Asking scheduler for work...
    INFO: Done
    INFO: There are no more tasks to run at this time
    INFO: TrainLDA(...) is currently run by worker Worker(salt=514562349, workers=4, host=felipe.local, username=Felipe, pid=28825)
    DEBUG: Asking scheduler for work...
    INFO: Done
    INFO: There are no more tasks to run at this time
    INFO: TrainLDA(...) is currently run by worker Worker(salt=514562349, workers=4, host=felipe.local, username=Felipe, pid=28825)
    INFO: Worker task TrainLDA(...) died unexpectedly with exit code -11
    DEBUG: Asking scheduler for work...
    INFO: Done
    INFO: There are no more tasks to run at this time
    INFO: There are 2 pending tasks possibly being run by other workers
    INFO: There are 2 pending tasks unique to this worker
    INFO: Worker Worker(salt=514562349, workers=4, host=felipe.local, username=Felipe, pid=28825) was stopped. Shutting down Keep-Alive thread