有没有办法为tensorflowlite android启用gpu

有没有办法为tensorflowlite android启用gpu,android,tensorflow,tensorflow-lite,Android,Tensorflow,Tensorflow Lite,有没有一种方法可以为android的tensorflowlite启用gpu?我在android中使用带有tensorflow lite的inceptionv3预训练模型,但推理大约需要1-1.5秒。我查看了安卓神经网络api,但它只支持安卓8.1及以上版本。据我所知,市场上大多数安卓手机都有配备Adreno GPU的高通芯片组。 Adreno GPU的接口尚未得到高通公司的支持,这意味着即使您将您的型号转换为tflite,您获得的大部分加速都来自Neon优化,而不是GPU。 有计划为下一代手机支

有没有一种方法可以为android的tensorflowlite启用gpu?我在android中使用带有tensorflow lite的inceptionv3预训练模型,但推理大约需要1-1.5秒。我查看了安卓神经网络api,但它只支持安卓8.1及以上版本。

据我所知,市场上大多数安卓手机都有配备Adreno GPU的高通芯片组。 Adreno GPU的接口尚未得到高通公司的支持,这意味着即使您将您的型号转换为tflite,您获得的大部分加速都来自Neon优化,而不是GPU。 有计划为下一代手机支持DSP,但到目前为止,市场上还没有支持高通DSP(HVX)tflite的手机。
希望这能有所帮助。

据我所知,市场上大多数安卓手机都有高通公司的带有Adreno GPU的芯片组。 Adreno GPU的接口尚未得到高通公司的支持,这意味着即使您将您的型号转换为tflite,您获得的大部分加速都来自Neon优化,而不是GPU。 有计划为下一代手机支持DSP,但到目前为止,市场上还没有支持高通DSP(HVX)tflite的手机。
希望这有帮助。

我遇到了同样的问题。我试过TensorFlow Lite,发现它更快。但是使用toco从pb转换到tflite对我来说很困难。如果您有关于转换的具体问题,我可以帮助您。我花了好几个小时研究它。还没有,但我们正在研究。我遇到了同样的问题。我试过TensorFlow Lite,发现它更快。但是使用toco从pb转换到tflite对我来说很困难。如果您有关于转换的具体问题,我可以帮助您。我花了好几个小时研究它。还没有,但我们正在研究。