Proxy DISTCP到代理后面的地面军事系统

Proxy DISTCP到代理后面的地面军事系统,proxy,google-cloud-platform,distcp,Proxy,Google Cloud Platform,Distcp,我正在尝试使用distcp将一些文件从HDFS复制到amazongcs。我的Hadoop集群通过HTTP代理连接到internet,但我不知道在连接到gcs时如何指定它 有关于这个主题的文档吗?链接到我的问题,但仍然不够: 第二个链接添加的是fs.gs.proxy.address,但与代理用户和密码无关。如果您的群集已通过代理连接到Internet,则如果安装了代理,则可以连接到GCS。最后,您必须能够执行以下命令: hadoop fs -ls gs://my-bucket-datala

我正在尝试使用distcp将一些文件从HDFS复制到amazongcs。我的Hadoop集群通过HTTP代理连接到internet,但我不知道在连接到gcs时如何指定它


有关于这个主题的文档吗?

链接到我的问题,但仍然不够:


  • 第二个链接添加的是
    fs.gs.proxy.address
    ,但与代理用户和密码无关。

    如果您的群集已通过代理连接到Internet,则如果安装了代理,则可以连接到GCS。最后,您必须能够执行以下命令:

    hadoop fs -ls gs://my-bucket-datalake
    
    hadoop fs -cp /hadoop/datalake gs://my-bucket-datalake
    
    hadoop distcp hdfs://<LOCAL_NN>:8020/foo/bar gs://my-bucket-datalake
    
    hadoop fs-ls gs://my bucket datalake hadoop fs-cp/hadoop/datalake gs://my bucket datalake hadoop distcp hdfs://:8020/foo/bar gs://my bucket datalake
    希望有帮助

    我正在尝试使用distcp将一些文件从HDFS复制到Google云存储,而不是amazone。代理身份验证支持是通过
    fs.gs.Proxy.username
    fs.gs.Proxy.password
    属性添加的。