Warning: file_get_contents(/data/phpspider/zhask/data//catemap/0/amazon-s3/2.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Amazon s3 使用批处理作业将S3数据加载到红移中_Amazon S3_Aws Lambda_Amazon Redshift_Aws Batch - Fatal编程技术网

Amazon s3 使用批处理作业将S3数据加载到红移中

Amazon s3 使用批处理作业将S3数据加载到红移中,amazon-s3,aws-lambda,amazon-redshift,aws-batch,Amazon S3,Aws Lambda,Amazon Redshift,Aws Batch,我想将存储在S3存储桶中的数据加载到红移。我知道这可以手动完成。但是,是否可以使用S3批处理操作作业并计划定期将S3数据加载到Redshift中的任务?AWS数据管道是一个管理服务,它正好可以做到这一点。您可以配置和计划将数据从S3导入到红移的批处理作业 这里有一个教程:您可以从S3批处理操作调用Lambda函数,将数据加载到红移中 在Jeff Barr下面的帖子中检查调用AWS Lambda函数的 通过执行COPY命令将数据从S3加载到红移,您可以编写一个Python脚本来实现这一点。使用Py

我想将存储在S3存储桶中的数据加载到红移。我知道这可以手动完成。但是,是否可以使用S3批处理操作作业并计划定期将S3数据加载到Redshift中的任务?

AWS数据管道是一个管理服务,它正好可以做到这一点。您可以配置和计划将数据从S3导入到红移的批处理作业


这里有一个教程:

您可以从S3批处理操作调用Lambda函数,将数据加载到红移中

在Jeff Barr下面的帖子中检查调用AWS Lambda函数的


通过执行
COPY
命令将数据从S3加载到红移,您可以编写一个Python脚本来实现这一点。使用Python中的
psycopg2
库,通过Python代码在Redshift上运行SQL命令。

AWS Glue也可能是一个理想的候选者,它可以处理S3中的源数据。它是为循环ETL而构建的。但是,如果您已经在S3中正确格式化了数据,那么AWS Glue可能是一种过度使用。