Amazon web services 将大量文件上传到S3的速度非常慢

Amazon web services 将大量文件上传到S3的速度非常慢,amazon-web-services,amazon-s3,Amazon Web Services,Amazon S3,我正在将包含500000个小XML文件的1.8GB数据上传到S3存储桶中。 当我从本地机器上传时,需要花费很长时间7个小时 当我将其压缩并上传时,需要5分钟的时间 但我的问题是我不能压缩它,因为以后我需要在AWS中有一些东西来解压缩它 那么有没有办法让上传速度更快呢?文件名不同,无法运行编号。 传输加速已启用 请建议我如何优化此功能?您可以随时将zip文件上载到EC2实例,然后在那里解压缩并将其同步到S3存储桶 实例角色必须具有将对象放入S3的权限才能使其正常工作 我还建议您在执行此操作之前考虑

我正在将包含500000个小XML文件的1.8GB数据上传到S3存储桶中。 当我从本地机器上传时,需要花费很长时间7个小时

当我将其压缩并上传时,需要5分钟的时间

但我的问题是我不能压缩它,因为以后我需要在AWS中有一些东西来解压缩它

那么有没有办法让上传速度更快呢?文件名不同,无法运行编号。 传输加速已启用


请建议我如何优化此功能?

您可以随时将zip文件上载到EC2实例,然后在那里解压缩并将其同步到S3存储桶

实例角色必须具有将对象放入S3的权限才能使其正常工作


我还建议您在执行此操作之前考虑配置S3 VPC网关端点:

这是我想要避免的。.我不想在AWS中创建任何计算环境。在这种情况下,请看这里是的,我已经研究过了。.但我不是在S3 bucket之间,而是在prem数据中心到AWS/S3之间。.是的,很好,这只意味着源代码将不是S3存储桶,而是本地目录。是的,这是我正在做的,但当我上传500000个文件时需要很长时间,但大小只有1.7gb…超过4个小时。。。