Amazon web services 需要在两个或多个爬虫完成后触发粘合作业

Amazon web services 需要在两个或多个爬虫完成后触发粘合作业,amazon-web-services,aws-lambda,amazon-cloudwatch,aws-glue,amazon-cloudwatchlogs,Amazon Web Services,Aws Lambda,Amazon Cloudwatch,Aws Glue,Amazon Cloudwatchlogs,我有三个胶水爬虫,一旦他们成功完成,我需要触发胶水作业。但与三个爬虫程序关联的三个文件将在不同的时间加载到s3存储桶中,我有s3事件,该事件反过来会触发lambda,我的lambda将在文件到达后立即触发关联的爬虫程序,它工作正常 我尝试了两种选择,但仍然有问题 选择1# 在成功完成三个爬虫之后,我尝试在这里使用glue work flow来触发glue job,但在将两个以上的爬虫添加到工作流触发器时出错。如何解决这个问题? 即使我们解决了这个问题,我们如何在文件到达时触发每个爬虫呢 选择

我有三个胶水爬虫,一旦他们成功完成,我需要触发胶水作业。但与三个爬虫程序关联的三个文件将在不同的时间加载到s3存储桶中,我有s3事件,该事件反过来会触发lambda,我的lambda将在文件到达后立即触发关联的爬虫程序,它工作正常

我尝试了两种选择,但仍然有问题

  • 选择1#

    在成功完成三个爬虫之后,我尝试在这里使用glue work flow来触发glue job,但在将两个以上的爬虫添加到工作流触发器时出错。如何解决这个问题? 即使我们解决了这个问题,我们如何在文件到达时触发每个爬虫呢

  • 选择2#

    如何在Cloudwatch事件中添加两个或更多爬虫成功条件