Amazon s3 使用批处理作业将S3数据加载到红移中
我想将存储在S3存储桶中的数据加载到红移。我知道这可以手动完成。但是,是否可以使用S3批处理操作作业并计划定期将S3数据加载到Redshift中的任务?AWS数据管道是一个管理服务,它正好可以做到这一点。您可以配置和计划将数据从S3导入到红移的批处理作业Amazon s3 使用批处理作业将S3数据加载到红移中,amazon-s3,aws-lambda,amazon-redshift,aws-batch,Amazon S3,Aws Lambda,Amazon Redshift,Aws Batch,我想将存储在S3存储桶中的数据加载到红移。我知道这可以手动完成。但是,是否可以使用S3批处理操作作业并计划定期将S3数据加载到Redshift中的任务?AWS数据管道是一个管理服务,它正好可以做到这一点。您可以配置和计划将数据从S3导入到红移的批处理作业 这里有一个教程:您可以从S3批处理操作调用Lambda函数,将数据加载到红移中 在Jeff Barr下面的帖子中检查调用AWS Lambda函数的 通过执行COPY命令将数据从S3加载到红移,您可以编写一个Python脚本来实现这一点。使用Py
这里有一个教程:您可以从S3批处理操作调用Lambda函数,将数据加载到红移中 在Jeff Barr下面的帖子中检查调用AWS Lambda函数的
通过执行COPY
命令将数据从S3加载到红移,您可以编写一个Python脚本来实现这一点。使用Python中的psycopg2
库,通过Python代码在Redshift上运行SQL命令。AWS Glue也可能是一个理想的候选者,它可以处理S3中的源数据。它是为循环ETL而构建的。但是,如果您已经在S3中正确格式化了数据,那么AWS Glue可能是一种过度使用。