[tensorflow服务]何时可以支持TfLiteSession的并行化
我需要在arm机器上运行tfserving,我发现tflite针对arm进行了优化,但tf没有,现在tflite模型只使用了一个cpu,我在code[tensorflow服务]何时可以支持TfLiteSession的并行化,tensorflow,tensorflow-serving,tensorflow-lite,Tensorflow,Tensorflow Serving,Tensorflow Lite,我需要在arm机器上运行tfserving,我发现tflite针对arm进行了优化,但tf没有,现在tflite模型只使用了一个cpu,我在codetensorflow\u serving/servables/tensorflow/tflite\u session.cc中看到了一些提交 // TODO(b/140959776): Remove serialized Run() calls, and support // multi-threaded execution -- allowi
tensorflow\u serving/servables/tensorflow/tflite\u session.cc中看到了一些提交
// TODO(b/140959776): Remove serialized Run() calls, and support
// multi-threaded execution -- allowing multiple Run() calls to
// happen in-parallel.
请问这件事什么时候能完成。或者有没有其他方法来优化arm机器上的模型