并发用户的Python API性能问题

我是新开发Python API的，在添加更多并发用户时遇到了一些性能问题。我有一个FlaskAPI，带有uWSGI和Nginx，所有的东西都是固定的

该API使用OpenCV进行一些图像处理转换，使用Tensorflow执行对象检测步骤，使用Tesseract执行一些OCR步骤。在用户上部署和测试时，响应是正常的，当我们开始添加更多并发用户时（即使有相当数量的并发用户，比如50-100个并发用户），响应时间会增加几倍，最多增加5-10倍

对于uwsgi，我设置了以下内容：

enable-threads = true
single-interpreter = true
threads = 10
lazy-apps = true

如果没有这些配置，我也会遇到网关响应不好的问题

非常感谢您对我应该更新/更改的内容、我应该关注的领域提出的任何建议

---

谢谢

你在用什么硬件？硬件的不同指标（RAM、CPU、IO）有多高？您得到的响应时间是多少？您期望的响应时间是多少？我正在我的MacOC HighSierra上进行测试，稍后将其部署到Oracle Enterprise Linux上。我通过Docker用8个CPU和10GB或RAM测试了它。CPU开始增长到80%，内存显著增加，这取决于并发线程的数量。至于处理时间，它从5秒跳到50秒。你在用什么硬件？硬件的不同指标（RAM、CPU、IO）有多高？您得到的响应时间是多少？您期望的响应时间是多少？我正在我的MacOC HighSierra上进行测试，稍后将其部署到Oracle Enterprise Linux上。我通过Docker用8个CPU和10GB或RAM测试了它。CPU开始增长到80%，内存显著增加，这取决于并发线程的数量。至于处理时间，从5秒跳到50秒。