Ruby on rails 一个缓冲区可以同时处理多少个请求?

Ruby on rails 一个缓冲区可以同时处理多少个请求?,ruby-on-rails,performance,file-upload,webserver,puma,Ruby On Rails,Performance,File Upload,Webserver,Puma,我知道Puma相对于其他Rails web服务器的一个好处是它如何处理速度较慢的客户端。虽然Puma服务器接收和下载一个(可能较慢的)请求,但它仍然可以接收和下载其他请求,这些请求可能下载得更快,并在缓慢的请求完成接收之前传递给工作进程进行处理 但我找不到任何关于这方面有什么限制的信息 Puma可以同时下载任意数量的请求吗?如果1000个慢速请求同时命中,那么假设不是慢速请求,第1001个请求是否会首先到达Puma工作人员手中? 我想我通常感兴趣的是多个慢速请求对其他请求(包括彼此)的影响,因为

我知道Puma相对于其他Rails web服务器的一个好处是它如何处理速度较慢的客户端。虽然Puma服务器接收和下载一个(可能较慢的)请求,但它仍然可以接收和下载其他请求,这些请求可能下载得更快,并在缓慢的请求完成接收之前传递给工作进程进行处理

但我找不到任何关于这方面有什么限制的信息

Puma可以同时下载任意数量的请求吗?如果1000个慢速请求同时命中,那么假设不是慢速请求,第1001个请求是否会首先到达Puma工作人员手中?

我想我通常感兴趣的是多个慢速请求对其他请求(包括彼此)的影响,因为我正在开发一个可能涉及大量“慢速请求”(通过3G从手机上传图像)的应用程序


@nate berkopec在原则上帮助解释Puma如何帮助慢客户机:“在集群模式下,Puma可以处理慢请求(这要归功于一个独立的主进程,它的职责是下载请求并将其传递下去)……任何人能够透露的更多信息都是非常受欢迎的。

有很多考虑因素,例如IO轮询系统、内存和并发问题

IO轮询系统 编辑(2020年9月9日):目前Puma服务器正在
nio4r
上运行,不应再受
select
系统调用的限制(其中文件描述符值限制为1023)

据我所知,Puma使用
select
系统调用(不同于Idio或passenger,后者也可以保护您免受慢速客户端的攻击,但使用
kqueue
epoll

在大多数系统上,
select
系统调用受到限制(通常最多1024个客户端/
maxfd
)。我想这会造成一个限制

然而,我知道Puma正在努力用便携且有效的东西(比如利用
nio4r
gem)来取代
select
系统调用

我不知道这是否已经实现,但它将打破这一限制,并可能提高性能

记忆 慢速客户端仍然会消耗内存,因为它们会慢慢地用头数据填充缓冲区,或者慢慢地下载发送的缓冲数据(将缓冲区保留在内存中,直到下载完成)

内存限制总是会增加客户端处理速度缓慢的限制

一些限制可以提高,例如使用X-Sendfile发送静态文件(Idio支持,以及Puma或Passent在nginx下运行时)。。。但这并不是你能解决的问题

并发性 Puma在Ruby的GIL(全局指令锁)中处理慢速客户端。这意味着在Puma处理慢速客户端时,不能执行其他线程/指令

这通常不是问题,但足够多的慢速客户端会增加上下文切换和系统调用的成本。这可能会(潜在地)大大降低服务器的速度

Passenger和Idio都在GIL之外执行缓慢的客户端缓冲,允许这些系统调用真正并发(当多个CPU内核可用时)

这将缓解问题,但不能完全解决问题

结论和注意事项 最大的问题通常是IO轮询系统。Puma的路线图上有一个解决方案(可能已经实现了,我不确定)

其他问题(内存限制和并发限制)相对不太重要,但如果不使用语言扩展(Iodium服务器是用C编写的,Passenger是用C++编写的),它们就无法缓解

由于Puma(目前)不需要任何语言扩展(除了它在C和Java中集成的HTTP解析器),这些问题仍然存在


我应该指出,我是Idio HTTP/Websocket服务器的作者,所以我有点偏颇。

不是答案,但您可能会从中获得价值