Logging 气流远程记录不工作
我有一个正在运行的Apache-Airflow 1.8.1实例 我有一个工作连接(它的ID)可以写入Google云存储,我的用户有权限写入bucket 我尝试通过添加Logging 气流远程记录不工作,logging,google-cloud-storage,apache-airflow,Logging,Google Cloud Storage,Apache Airflow,我有一个正在运行的Apache-Airflow 1.8.1实例 我有一个工作连接(它的ID)可以写入Google云存储,我的用户有权限写入bucket 我尝试通过添加 remote\u base\u log\u folder='gs://my bucket/log' remote\u log\u conn\u id='my\u working\u conn\u id' 仅此而已(除此之外,我没有触摸任何配置) 我重新启动了所有服务,但日志没有上传到gcs(我的存储桶仍然是空的),文件系统空间仍然
remote\u base\u log\u folder='gs://my bucket/log'
remote\u log\u conn\u id='my\u working\u conn\u id'
仅此而已(除此之外,我没有触摸任何配置)
我重新启动了所有服务,但日志没有上传到gcs(我的存储桶仍然是空的),文件系统空间仍然在减少
您是否已成功启用gcs远程日志?如果是,你做了什么改变/做了什么 我设法将远程日志获取到GCS。首先,您需要授予服务帐户写入GCS bucket的权限 这是我的GCP连接设置: 然后,编辑airflow.cfg文件:
remote_base_log_folder = gs://my-backup/airflow_logs
remote_log_conn_id = my_gcp_conn
编辑配置文件后,需要再次对其进行重新初始化:
airflow initdb
# start the web server, default port is 8080
airflow webserver -p 8080
通过打开“教程”DAG进行测试,您应该能够在地面军事系统中本地和远程查看日志:
多亏了你的照片,我才明白出了什么问题。1°)您需要一个不带报价的airflow.cfg。2°)您至少需要这个范围。我只有一个范围,但没有enough@PierreCORBEL如何启用/添加/设置所需的范围?@Kasa您可以在定义Google Cloud Platform类型的连接时设置范围。最后一个字段是字段scope@PierreCORBEL谢谢,这很有效。你是如何知道你需要那个特定的范围的?试错;官方文件;还有什么吗?@Kasa官方医生