Warning: file_get_contents(/data/phpspider/zhask/data//catemap/0/amazon-s3/2.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Amazon web services 使用AWS Lambda和AWS S3进行大数据传输_Amazon Web Services_Amazon S3_Aws Lambda - Fatal编程技术网

Amazon web services 使用AWS Lambda和AWS S3进行大数据传输

Amazon web services 使用AWS Lambda和AWS S3进行大数据传输,amazon-web-services,amazon-s3,aws-lambda,Amazon Web Services,Amazon S3,Aws Lambda,我们必须使用AWS Lambda(Java)创建一个大的zip输出流(最大500 MB-1 GB文件大小),并将其传输到S3。我在这里面临一个问题: a。由于文件较大,连接超时 如果zip文件很小,那么它工作正常 当我检查时,似乎多部分上传可能会有所帮助。我还没有尝试,但想知道是否有更好的选择 从AWS Lambda到S3的文件传输是否通过互联网进行?由于我不需要使用来自AWS网络外部的数据(zip数据仅在Lambda内创建),因此我是否可以使用AWS优化网络。这有助于加快数据传输速度吗 另一

我们必须使用AWS Lambda(Java)创建一个大的zip输出流(最大500 MB-1 GB文件大小),并将其传输到S3。我在这里面临一个问题:

a。由于文件较大,连接超时

如果zip文件很小,那么它工作正常

当我检查时,似乎多部分上传可能会有所帮助。我还没有尝试,但想知道是否有更好的选择

  • 从AWS Lambda到S3的文件传输是否通过互联网进行?由于我不需要使用来自AWS网络外部的数据(zip数据仅在Lambda内创建),因此我是否可以使用AWS优化网络。这有助于加快数据传输速度吗

  • 另一个选择是使用Java使用多部分上传(因为我们是一家Java商店)

  • 我知道AWS Lambda的执行超时为15分钟。因此,如果数据传输需要很长时间,而不是连接超时,我们可能会遇到Lambda执行超时。这也是不能接受的。因此,快速的数据传输确实会有所帮助。除此之外,处理过程非常简单-我必须保持Lambda运行,因为数据传输需要很长时间


    提前感谢。

    为什么不直接将文件写入S3?请参阅此处的示例:“AWS Lambda”不是文件存储服务。您需要分析Lambda函数正在执行的操作。Lambda函数从何处获取正在上载的数据?Lambda从另一个S3存储桶获取数据。lambda必须加密(自定义加密逻辑)大文件并将其保存在另一个存储桶中。这就是数据不需要离开AWS网络的原因。AWS lambda在不到20秒内完成了加密逻辑。它将加密文件作为bytearrayoutputstream保存在内存中。然后,在尝试写入S3之前,我从中获取bytearrayinputstream。这就是我得到超时的地方