如何使用GPU使用tf.lite.解释器（在python中）运行tflite模型（*.tflite）？

根据的说明，我已将tensorflow推理图转换为tflite模型文件（*.tflite）

我在我的GPU服务器上测试了tflite模型，它有4个Nvidia TITAN GPU。我使用tf.lite.Interpreter加载并运行tflite模型文件

它与以前的tensorflow图一样工作，但问题是推理速度太慢。当我检查原因时，我发现当tf.lite.Interpreter运行时，GPU利用率仅为0%

有什么方法可以在GPU支持下运行tf.lite.Interpreter吗？

CPU对于tflite来说已经足够好了，尤其是多核

---

nvidia GPU可能不会针对tflite进行更新，tflite是针对移动GPU平台的

你安装了tensorflow gpu吗？是的，我检查了gpu是否在其他情况下使用。