Google app engine 在GoogleAppEngine中,只有一个实例处理大多数请求

Google app engine 在GoogleAppEngine中,只有一个实例处理大多数请求,google-app-engine,Google App Engine,我们在google app engine中有4个实例,只有一个实例处理大多数请求。我们如何进行扩展以使所有实例都能处理相同数量的请求?在运行的实例之间均衡负载实际上并不意味着扩展。只要一个实例能够以可接受的性能处理传入的请求,您就不会看到扩展问题 如果您使用的是自动或基本缩放(如果您关心可伸缩性,您应该这样做),那么在运行实例中分布的不均匀负载实际上可能是控制自动实例按需启动(当负载超过某个阈值时)和关闭(当实例处于空闲状态时)所必需的 例如,如果1-2个实例可以轻松处理的负载平均分布在4个正在

我们在google app engine中有4个实例,只有一个实例处理大多数请求。我们如何进行扩展以使所有实例都能处理相同数量的请求?

在运行的实例之间均衡负载实际上并不意味着扩展。只要一个实例能够以可接受的性能处理传入的请求,您就不会看到扩展问题

如果您使用的是自动或基本缩放(如果您关心可伸缩性,您应该这样做),那么在运行实例中分布的不均匀负载实际上可能是控制自动实例按需启动(当负载超过某个阈值时)和关闭(当实例处于空闲状态时)所必需的

例如,如果1-2个实例可以轻松处理的负载平均分布在4个正在运行的实例上,那么这4个实例中的任何一个都不会空闲到足以关闭的时间


将单个实例作为运行流量的“首选”实例,而其他实例只是选择op“overflow”/peak load,这使得控制实例启动/关闭的算法更加简单(我认为也更加精确)-阈值比较逻辑只需要应用于一个(或几个)运行实例,不是所有的实例。

我还想问一个问题,您使用的是常驻实例还是动态实例

例如,如果您在应用程序yaml文件中配置了缩放覆盖,您可能会看到一些实例“就在那里”。常驻实例可以处理高峰/溢出流量,并且始终处于启用状态,但最终可能并不总是为流量服务

例如:

你在用什么?
 automatic_scaling:
      min_idle_instances: 6