Warning: file_get_contents(/data/phpspider/zhask/data//catemap/8/logging/2.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Logging 气流远程记录不工作_Logging_Google Cloud Storage_Apache Airflow - Fatal编程技术网

Logging 气流远程记录不工作

Logging 气流远程记录不工作,logging,google-cloud-storage,apache-airflow,Logging,Google Cloud Storage,Apache Airflow,我有一个正在运行的Apache-Airflow 1.8.1实例 我有一个工作连接(它的ID)可以写入Google云存储,我的用户有权限写入bucket 我尝试通过添加 remote\u base\u log\u folder='gs://my bucket/log' remote\u log\u conn\u id='my\u working\u conn\u id' 仅此而已(除此之外,我没有触摸任何配置) 我重新启动了所有服务,但日志没有上传到gcs(我的存储桶仍然是空的),文件系统空间仍然

我有一个正在运行的Apache-Airflow 1.8.1实例

我有一个工作连接(它的ID)可以写入Google云存储,我的用户有权限写入bucket

我尝试通过添加

remote\u base\u log\u folder='gs://my bucket/log'

remote\u log\u conn\u id='my\u working\u conn\u id'

仅此而已(除此之外,我没有触摸任何配置)

我重新启动了所有服务,但日志没有上传到gcs(我的存储桶仍然是空的),文件系统空间仍然在减少


您是否已成功启用gcs远程日志?如果是,你做了什么改变/做了什么

我设法将远程日志获取到GCS。首先,您需要授予服务帐户写入GCS bucket的权限

这是我的GCP连接设置:

然后,编辑airflow.cfg文件:

remote_base_log_folder = gs://my-backup/airflow_logs
remote_log_conn_id = my_gcp_conn
编辑配置文件后,需要再次对其进行重新初始化:

airflow initdb

# start the web server, default port is 8080
airflow webserver -p 8080
通过打开“教程”DAG进行测试,您应该能够在地面军事系统中本地和远程查看日志:


多亏了你的照片,我才明白出了什么问题。1°)您需要一个不带报价的airflow.cfg。2°)您至少需要这个范围。我只有一个范围,但没有enough@PierreCORBEL如何启用/添加/设置所需的范围?@Kasa您可以在定义Google Cloud Platform类型的连接时设置范围。最后一个字段是字段scope@PierreCORBEL谢谢,这很有效。你是如何知道你需要那个特定的范围的?试错;官方文件;还有什么吗?@Kasa官方医生