Amazon web services 使用AWS Lambda和AWS S3进行大数据传输
我们必须使用AWS Lambda(Java)创建一个大的zip输出流(最大500 MB-1 GB文件大小),并将其传输到S3。我在这里面临一个问题: a。由于文件较大,连接超时 如果zip文件很小,那么它工作正常 当我检查时,似乎多部分上传可能会有所帮助。我还没有尝试,但想知道是否有更好的选择Amazon web services 使用AWS Lambda和AWS S3进行大数据传输,amazon-web-services,amazon-s3,aws-lambda,Amazon Web Services,Amazon S3,Aws Lambda,我们必须使用AWS Lambda(Java)创建一个大的zip输出流(最大500 MB-1 GB文件大小),并将其传输到S3。我在这里面临一个问题: a。由于文件较大,连接超时 如果zip文件很小,那么它工作正常 当我检查时,似乎多部分上传可能会有所帮助。我还没有尝试,但想知道是否有更好的选择 从AWS Lambda到S3的文件传输是否通过互联网进行?由于我不需要使用来自AWS网络外部的数据(zip数据仅在Lambda内创建),因此我是否可以使用AWS优化网络。这有助于加快数据传输速度吗 另一
提前感谢。为什么不直接将文件写入S3?请参阅此处的示例:“AWS Lambda”不是文件存储服务。您需要分析Lambda函数正在执行的操作。Lambda函数从何处获取正在上载的数据?Lambda从另一个S3存储桶获取数据。lambda必须加密(自定义加密逻辑)大文件并将其保存在另一个存储桶中。这就是数据不需要离开AWS网络的原因。AWS lambda在不到20秒内完成了加密逻辑。它将加密文件作为bytearrayoutputstream保存在内存中。然后,在尝试写入S3之前,我从中获取bytearrayinputstream。这就是我得到超时的地方