Azure Kubernetes执行器日志

Azure Kubernetes执行器日志,azure,logging,kubernetes,airflow,Azure,Logging,Kubernetes,Airflow,我已经在Kubernetes上使用stable/Airflowhelm图表部署了一个Airflow实例。我稍微修改了puckel/docker airflow图像,以便能够安装Kubernetes执行器。所有任务现在都在Kubernetes集群上成功执行,但这些任务的日志却无处可寻 我想将日志上载到我们的Azure Blob存储帐户。我已将环境变量配置为: AIRFLOW__CORE__REMOTE_BASE_LOG_FOLDER="wasb-airflow" AIRFLOW__CORE__RE

我已经在Kubernetes上使用
stable/Airflow
helm图表部署了一个Airflow实例。我稍微修改了puckel/docker airflow图像,以便能够安装Kubernetes执行器。所有任务现在都在Kubernetes集群上成功执行,但这些任务的日志却无处可寻

我想将日志上载到我们的Azure Blob存储帐户。我已将环境变量配置为:

AIRFLOW__CORE__REMOTE_BASE_LOG_FOLDER="wasb-airflow"
AIRFLOW__CORE__REMOTE_LOG_CONN_ID="wasb_default"
AIRFLOW__CORE__REMOTE_LOGGING="True"
wasb\u默认连接包含Azure Blob存储帐户的登录名和密码。我已经使用
WasbHook
测试了这个连接,并且成功地删除了一个虚拟文件

当我尝试查看日志时,会显示以下消息:

*** Log file does not exist: /usr/local/airflow/logs/example_python_operator/print_the_context/2019-11-29T15:42:25+00:00/1.log
*** Fetching from: http://examplepythonoperatorprintthecontext-4a6e6a1f11fd431f8c2a1dc081:8793/log/example_python_operator/print_the_context/2019-11-29T15:42:25+00:00/1.log
*** Failed to fetch log file from worker. HTTPConnectionPool(host='examplepythonoperatorprintthecontext-4a6e6a1f11fd431f8c2a1dc081', port=8793): Max retries exceeded with url: /log/example_python_operator/print_the_context/2019-11-29T15:42:25+00:00/1.log (Caused by NewConnectionError('<urllib3.connection.HTTPConnection object at 0x7f34ecdbe990>: Failed to establish a new connection: [Errno -2] Name or service not known'))
***日志文件不存在:/usr/local/afflow/logs/example\u python\u operator/print\u the\u context/2019-11-29T15:42:25+00:00/1.Log
***正在从以下位置获取:http://examplepythonoperatorprintthecontext-4a6e6a1f11fd431f8c2a1dc081:8793/log/example_python_operator/print_the_context/2019-11-29T15:42:25+00:00/1.log
***无法从辅助进程获取日志文件。HTTPConnectionPool(host='examplepythonoperatorprintthecontext-4a6e6a1f11fd431f8c2a1dc081',port=8793):url超过最大重试次数:/log/example\u python\u operator/print\u context/2019-11-29T15:42:25+00:00/1.log(由NewConnectionError引起(':未能建立新连接:[Errno-2]名称或服务未知'))

关于如何解决这个问题有什么想法吗?

找到了解决办法。将环境变量
AIRFLOW\uuuu WEBSERVER\uuu LOG\u FETCH\u TIMEOUT\u SEC增加到15左右。

很抱歉回复太晚,我最近遇到了这个问题,并且能够解决它


我的回购协议中有一份有效的回购协议,如果你愿意,你可以查看。此设置使用PV存储日志。您可以在airflow.yaml中添加连接以将日志发送到远程文件夹

尝试连接到容器并检查日志文件是否确实存在。日志文件路径由dag名称、任务名称、运行日期等组合而成。可能某些属性已更改。日志文件存在于容器中,但不在my Azure存储中。。我认为问题在于气流无法到达运行容器内的原木