Warning: file_get_contents(/data/phpspider/zhask/data//catemap/9/google-cloud-platform/3.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Google cloud platform Cloud Composer GKE节点升级导致气流任务随机失败_Google Cloud Platform_Airflow_Google Kubernetes Engine_Google Cloud Composer - Fatal编程技术网

Google cloud platform Cloud Composer GKE节点升级导致气流任务随机失败

Google cloud platform Cloud Composer GKE节点升级导致气流任务随机失败,google-cloud-platform,airflow,google-kubernetes-engine,google-cloud-composer,Google Cloud Platform,Airflow,Google Kubernetes Engine,Google Cloud Composer,问题: 我有一个托管云编写器环境,在1.9.7-gke.6 Kubernetes集群主机下。 我尝试将它(以及默认的池节点)升级到1.10.7-gke.1,因为有升级可用 从那时起,气流一直在随机作用。正常工作的任务正在无缘无故地失败。这使得气流无法使用,因为调度变得不可靠。 下面是一个每15分钟运行一次的任务示例,升级后,该任务的行为非常明显: 将鼠标悬停在失败的任务上时,它只显示运算符:null消息()。此外,该任务根本没有日志 我已经能够用另一个Composer环境重现这种情况,以确保升

问题

我有一个托管云编写器环境,在1.9.7-gke.6 Kubernetes集群主机下。 我尝试将它(以及默认的池节点)升级到1.10.7-gke.1,因为有升级可用

从那时起,气流一直在随机作用。正常工作的任务正在无缘无故地失败。这使得气流无法使用,因为调度变得不可靠。 下面是一个每15分钟运行一次的任务示例,升级后,该任务的行为非常明显:

将鼠标悬停在失败的任务上时,它只显示
运算符:null
消息()。此外,该任务根本没有日志

我已经能够用另一个Composer环境重现这种情况,以确保升级是导致功能失调的原因

我到目前为止所做的尝试

我认为升级可能会破坏调度器或芹菜(CloudComposer默认为CeleryExecutor)

我尝试使用以下命令重新启动计划程序:

kubectl get deployment airflow-scheduler -o yaml | kubectl replace --force -f -
我还试着从工人内部重新开始芹菜,但没有成功

kubectl exec -it airflow-worker-799dc94759-7vck4 -- sudo celery multi restart 1
芹菜会重新启动,但无法解决问题。 因此,我尝试重新启动气流,与使用气流调度器时完全相同

这些都没有解决这个问题

请注意,在学习本教程()时,我无法访问Flower来监视芹菜。连接到本地主机:5555永远处于“等待”状态。我不知道这是否有关联


如果我遗漏了什么,请告诉我

1.10.7-gke.2现已上市[1]。您能否进一步升级到1.10.7-gke.2以查看问题是否仍然存在

[1]