Amazon s3 由于身份验证,gsutil无法复制到s3

Amazon s3 由于身份验证,gsutil无法复制到s3,amazon-s3,google-cloud-storage,gsutil,Amazon S3,Google Cloud Storage,Gsutil,我需要将许多(1000+)文件从GCS复制到s3,以利用AWS lambda函数。我已经编辑了~/.boto.cfg并注释掉了2个aws身份验证参数,但是一个简单的gsutil ls s3://mybucket从GCE或EC2虚拟机失败 错误是不支持您提供的授权机制。请使用AWS4-HMAC-SHA256。 我使用gsutil版本:4.28和GCS和S3桶的位置分别为US-CENTRAL1和US East(俄亥俄州)-如果相关 我不知道AWS密钥是否有效,我启用了http/https。使用笔记本

我需要将许多(1000+)文件从GCS复制到s3,以利用AWS lambda函数。我已经编辑了
~/.boto.cfg
并注释掉了2个aws身份验证参数,但是一个简单的
gsutil ls s3://mybucket
GCEEC2虚拟机失败

错误是
不支持您提供的授权机制。请使用AWS4-HMAC-SHA256。

我使用gsutil版本:
4.28
GCSS3桶的位置分别为
US-CENTRAL1
US East(俄亥俄州)
-如果相关


我不知道AWS密钥是否有效,我启用了http/https。使用笔记本电脑的Cyberduck从地面军事系统下载并上传到S3是不可行的(>230Gb)

我也遇到了类似的问题。以下是我在GCE机器上完成的工作:

步骤1:使用gsutil,我将文件从GCS复制到我的GCE硬盘 步骤2:使用aws cli(aws s3 cp…),我将文件从GCE硬盘复制到s3存储桶

上述方法对我来说是可靠的。我尝试使用gsutil rsync,但意外失败

希望这有助于

根据,
gsutil
v4.28通过添加到
~/.boto
一个新的
[s3]
部分来支持
AWS
v4签名,如

[s3]
# Note that we specify region as part of the host, as mentioned in the AWS docs:
# http://docs.aws.amazon.com/general/latest/gr/rande.html#s3_region
host = s3.eu-east-2.amazonaws.com
use-sigv4 = True
该节的使用继承自
boto3
,但当前不是由
gsutil config
创建的,因此需要为目标端点显式添加该节


<对于S3到GCS,我会考虑更多的服务器<代码>存储传输服务< /Case> API。

谢谢-结束了一次传输,但是我需要做同样的事情来加载BigQueQue+,这最终会每天发生。本地复制是一种解决办法,但仍然相信有一个问题:“代码> GSUTIL GSUTIL确实支持这一版本(4.28版——您链接的问题直到现在才更新),请考虑更改您的答案以反映这一点。回答和问题跟踪程序已更新。