Web services 文本处理应用程序的负载平衡

我有一个资源密集型NLP应用程序，我想把它放到web上，我想让100多个用户同时访问它

---

我可以访问由几台机器组成的集群。我的想法是在这些机器上运行几个后台进程，然后使用负载平衡程序分发来自多个客户端的输入。我想知道我是否在正确的轨道上，并欢迎您的建议。

有几种集成和扩展方案。假设您的大多数组件都与NLP相关，我建议您为NLP定制一个框架：。 对您的场景有用的可能是