Ruby on rails Puma web服务器积压行为_Ruby On Rails_Ruby_Heroku_Puma

Ruby on rails Puma web服务器积压行为

ruby-on-rails ruby heroku

Ruby on rails Puma web服务器积压行为,ruby-on-rails,ruby,heroku,puma,Ruby On Rails,Ruby,Heroku,Puma,这是关于Heroku的，但到目前为止，我不认为这与这有什么特别的关系。我们还使用机架超时gem，它应该在30秒后终止进程。请参见下文，为什么在某些情况下看起来不会发生这种情况我们有一个非常庞大的puma工人/线程池，每个工人有5个工人和20个线程。如前所述，在本期发行时，我们有5个heroku dynos正在运行，因此总共有500个puma实例可用于工作请求。有这么多，我发现很难相信几个长时间运行的请求会导致如此多的503 我设置了puma指标，并将其添加到自定义日志线程中，下面是一个快照示例

这是关于Heroku的，但到目前为止，我不认为这与这有什么特别的关系。我们还使用机架超时gem，它应该在30秒后终止进程。请参见下文，为什么在某些情况下看起来不会发生这种情况

我们有一个非常庞大的puma工人/线程池，每个工人有5个工人和20个线程。如前所述，在本期发行时，我们有5个heroku dynos正在运行，因此总共有500个puma实例可用于工作请求。有这么多，我发现很难相信几个长时间运行的请求会导致如此多的503

我设置了puma指标，并将其添加到自定义日志线程中，下面是一个快照示例，其中我们从这个AM开始在503秒内出现了上升，puma积压结果非常奇怪：

Oct 24 09:06:56 app app[web] info "source=web.1.worker.28 sample#puma.backlog=1 sample#puma.running=20"
Oct 24 09:06:56 app app[web] info "source=web.1.worker.54 sample#puma.backlog=1 sample#puma.running=20"
Oct 24 09:06:56 app app[web] info "source=web.1.worker.72 sample#puma.backlog=99 sample#puma.running=20"
Oct 24 09:06:56 app app[web] info "source=web.1.worker.90 sample#puma.backlog=1 sample#puma.running=20"
Oct 24 09:06:57 app app[web] info "source=web.3.worker.18 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:06:57 app app[web] info "source=web.3.worker.29 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:06:57 app app[web] info "source=web.3.worker.40 sample#puma.backlog=1 sample#puma.running=20"
Oct 24 09:06:57 app app[web] info "source=web.3.worker.51 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:06:57 app app[web] info "source=web.3.worker.62 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:01 app app[web] info "source=web.4.worker.18 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:01 app app[web] info "source=web.4.worker.29 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:01 app app[web] info "source=web.4.worker.40 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:01 app app[web] info "source=web.4.worker.51 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:01 app app[web] info "source=web.4.worker.62 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:01 app app[web] info "source=web.2.worker.18 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:01 app app[web] info "source=web.2.worker.34 sample#puma.backlog=1 sample#puma.running=20"
Oct 24 09:07:01 app app[web] info "source=web.2.worker.50 sample#puma.backlog=1 sample#puma.running=20"
Oct 24 09:07:01 app app[web] info "source=web.2.worker.66 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:01 app app[web] info "source=web.2.worker.82 sample#puma.backlog=1 sample#puma.running=20"
Oct 24 09:07:05 app app[web] info "source=web.5.worker.18 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:05 app app[web] info "source=web.5.worker.29 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:05 app app[web] info "source=web.5.worker.47 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:05 app app[web] info "source=web.5.worker.69 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:05 app app[web] info "source=web.5.worker.74 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:06 app app[web] info "source=web.1.worker.18 sample#puma.backlog=1 sample#puma.running=20"
Oct 24 09:07:06 app app[web] info "source=web.1.worker.28 sample#puma.backlog=1 sample#puma.running=20"
Oct 24 09:07:06 app app[web] info "source=web.1.worker.54 sample#puma.backlog=1 sample#puma.running=20"
Oct 24 09:07:06 app app[web] info "source=web.1.worker.72 sample#puma.backlog=99 sample#puma.running=20"
Oct 24 09:07:06 app app[web] info "source=web.1.worker.90 sample#puma.backlog=1 sample#puma.running=20"
Oct 24 09:07:07 app app[web] info "source=web.3.worker.18 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:07 app app[web] info "source=web.3.worker.29 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:07 app app[web] info "source=web.3.worker.40 sample#puma.backlog=1 sample#puma.running=20"
Oct 24 09:07:07 app app[web] info "source=web.3.worker.51 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:07 app app[web] info "source=web.3.worker.62 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:11 app app[web] info "source=web.2.worker.18 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:11 app app[web] info "source=web.2.worker.34 sample#puma.backlog=1 sample#puma.running=20"
Oct 24 09:07:11 app app[web] info "source=web.2.worker.50 sample#puma.backlog=1 sample#puma.running=20"
Oct 24 09:07:11 app app[web] info "source=web.2.worker.66 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:11 app app[web] info "source=web.2.worker.82 sample#puma.backlog=1 sample#puma.running=20"
Oct 24 09:07:11 app app[web] info "source=web.4.worker.18 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:11 app app[web] info "source=web.4.worker.29 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:11 app app[web] info "source=web.4.worker.40 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:11 app app[web] info "source=web.4.worker.51 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:11 app app[web] info "source=web.4.worker.62 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:15 app app[web] info "source=web.5.worker.18 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:15 app app[web] info "source=web.5.worker.29 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:15 app app[web] info "source=web.5.worker.47 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:15 app app[web] info "source=web.5.worker.69 sample#puma.backlog=0 sample#puma.running=20"
Oct 24 09:07:15 app app[web] info "source=web.5.worker.74 sample#puma.backlog=0 sample#puma.running=20"

如果至少有一个worker（例如

web.1.worker.72

）有一个>=1的积压工作，那么当您可以看到我们有其他没有积压工作的worker时，puma为什么还要向其中添加更多请求

为什么这种情况会持续几分钟（完整的日志显示dyno 1上的worker 72在3分钟内积压了>99的工作）：

注意，情况变得更糟：

Oct 24 09:08:26 app app[web] info "source=web.1.worker.72 sample#puma.backlog=153 sample#puma.running=20"

最后最好是：

Oct 24 09:08:36 app app[web] info "source=web.1.worker.72 sample#puma.backlog=68 sample#puma.running=20"

然后回到健康：

Oct 24 09:08:46 app app[web] info "source=web.1.worker.72 sample#puma.backlog=0 sample#puma.running=20"

503在上午9:08停了下来，我们恢复了健康状态，因此它肯定与这个持续数分钟的奇怪积压事件有关。有人有什么想法吗

似乎缩放根本没有帮助…

在与一些人交谈后，发现这是puma中的一个bug，在3.12版中得到了修复（这个问题第一次编写时，我们是在3.11版）。在我们升级到4.2之后，我可以确认它是否按预期工作。

在与一些人交谈后，发现这是puma中的一个bug，在3.12版中得到了修复（这个问题第一次编写时，我们在3.11版）。升级到4.2后，我可以确认它是否能按预期工作。

是的，我的想法是您应该使用New Relic之类的分析软件。如果你正在运行一个需要500个活动工作线程的应用程序，那么你绝对应该对这种产品的性能和请求有深入的了解。这可能与（在积压待办事项等待时处理新请求）有关。是的，我的想法是你应该使用像new Relic这样的分析软件。如果你正在运行一个需要500个活动工作线程的应用程序，那么你绝对应该对这样一个产品的性能和请求有深入的了解。可能与一个相关（新的请求在积压等待时处理）。

Oct 24 09:08:46 app app[web] info "source=web.1.worker.72 sample#puma.backlog=0 sample#puma.running=20"