Tensorflow 用于嵌入式系统运行的神经网络优化

Tensorflow 用于嵌入式系统运行的神经网络优化,tensorflow,machine-learning,neural-network,deep-learning,conv-neural-network,Tensorflow,Machine Learning,Neural Network,Deep Learning,Conv Neural Network,我在一个内存极其有限、处理能力更加有限的嵌入式系统上运行一些代码 我使用TensorFlow来实现这个功能 我以前从未在这种环境下工作过 我可以采取哪些步骤来确保实现/优化尽可能高效 一些想法- -剪枝代码- -确保循环在大O意义上尽可能小 - 非常感谢。如果您正在使用2.0原型之前的最新稳定版本TensorFlow 1.13,则会有一个from tf.contrib子模块。它包含一个稀疏性参数,您可以调整该参数以确定网络的大小 我建议您查看所有tf.contrib.model_修剪子模块。您可

我在一个内存极其有限、处理能力更加有限的嵌入式系统上运行一些代码

我使用TensorFlow来实现这个功能

我以前从未在这种环境下工作过

我可以采取哪些步骤来确保实现/优化尽可能高效

一些想法- -剪枝代码- -确保循环在大O意义上尽可能小 -


非常感谢。

如果您正在使用2.0原型之前的最新稳定版本TensorFlow 1.13,则会有一个from tf.contrib子模块。它包含一个稀疏性参数,您可以调整该参数以确定网络的大小


我建议您查看所有tf.contrib.model_修剪子模块。您可能需要为特定任务提供大量功能。

我建议使用TensorFlow Lite

它将使您能够压缩和量化您的模型,使其更小、运行更快

它还支持利用GPU和/或硬件加速器(如果您可以使用)


您对最大推理时间和最大RAM使用量的要求是什么?您的CNN模型现在看起来如何?它应该执行什么任务?