Python 谷歌Coral Boards是否有TensorFlowServing等价物？

上下文

我已经玩了几天，基于经典模型（如MobileNet（来自的官方版本）和其他定制模型（移植到TensorFlow Lite）原型化了一些解决方案。另外，我正在使用这个库的Python版本

我的目的是将我目前采用传统方式（CPU+GPU）运行的解决方案移植到混合CPU+GoogleCoral方式，将推论委托给我的Coral U盘

由于我的解决方案涉及多个模型和按需并发推理，因此我将使用它为原始部署中的模型提供服务。通过这种方式，我将并发处理委托给TFS

另一方面，我注意到我的设备似乎不支持并发，而且我用来进行推断的

tflite\u runtime.interpreter

类显然不包含互斥

我的问题

是否有一个TensorflowLite、Google Coral框架或一些社区项目级别的官方API可以解决我的问题，类似于TFS的功能

否则，我想我将被迫实现一些基于客户机/服务器的逻辑，例如在使用python

multiprocessing.Manager

对象的开源项目中（请参阅）

提前多谢