Shell 处理EMR群集限制的好方法

Shell 处理EMR群集限制的好方法,shell,emr,Shell,Emr,我正在使用EMR处理日志。基本上,它是一个命令行工具,可以启动一些集群,然后设置处理部分。我面临的问题是,当多人同时尝试使用该工具时。它会尝试为它们中的每一个启动一个集群,从而达到最大50的限制。我不能创建一个集群并让它永远运行,因为它可能处于空闲状态,并且会产生成本 如何在脚本中处理此部分。另外,我如何设置优先级来终止EMR集群并为高优先级请求设置新的onw 任何提示都将不胜感激。AFAIK,亚马逊没有为此提供任何工具 您可以运行一个持久集群,并在其空闲一段时间时使用脚本终止它,然后根据请求重

我正在使用EMR处理日志。基本上,它是一个命令行工具,可以启动一些集群,然后设置处理部分。我面临的问题是,当多人同时尝试使用该工具时。它会尝试为它们中的每一个启动一个集群,从而达到最大50的限制。我不能创建一个集群并让它永远运行,因为它可能处于空闲状态,并且会产生成本

如何在脚本中处理此部分。另外,我如何设置优先级来终止EMR集群并为高优先级请求设置新的onw


任何提示都将不胜感激。

AFAIK,亚马逊没有为此提供任何工具

您可以运行一个持久集群,并在其空闲一段时间时使用脚本终止它,然后根据请求重新启动claster。当然,它需要一些后台运行的监控工具。或者,您可以实现一个任务队列,并确保在给定时刻最多运行一个任务

但是,所有选项都必须自己实现,尽管这似乎非常简单,而且使用任何脚本语言都相对容易。我们有一些类似于在python上编写的第二个选项,并在专用机器上作为服务运行