如何加速该模型';tensorflow.js中的加载阶段?

如何加速该模型';tensorflow.js中的加载阶段?,tensorflow,deep-learning,tensorflow.js,Tensorflow,Deep Learning,Tensorflow.js,系统 浏览器:Edge/Chrome; tfjs版本:2.7.0 描述 在特定页面中使用tensorflow.js加载经过培训的MobileNet V2模型一次需要10秒以上的时间。 不仅是第一次,而且每次打开页面都要花费同样的10秒以上的时间。 加载阶段完成后,预测阶段很快 但是我想知道如何加速加载阶段,因为它看起来不是很好的性能 装载代码如下: async function loadModel(model_path) { model = await tf.loadLayersMode

系统 浏览器:Edge/Chrome; tfjs版本:2.7.0

描述 在特定页面中使用tensorflow.js加载经过培训的MobileNet V2模型一次需要10秒以上的时间。 不仅是第一次,而且每次打开页面都要花费同样的10秒以上的时间。 加载阶段完成后,预测阶段很快

但是我想知道如何加速加载阶段,因为它看起来不是很好的性能

装载代码如下:

async function loadModel(model_path) {
    model = await tf.loadLayersModel(
        model_path
    );
}

模型大小只有9MB。

您是否已将cdnjs tensorflow更新为最新版本?看看

我也遇到过类似的挑战,这对我很有效


祝你好运

你能检查一下你用这个
console.log(tf.getBackend())使用的是什么后端吗?@yudhiesh谢谢你的回答。它似乎是
webgl
。因此
webgl
后端是最快的,特别是对于这种型号,但这确实很奇怪,因为我以前也做过同样的事情,而且从来没有这么慢。转换模型时,您是否量化了它?@yudhiesh您的意思是用除法对训练数据进行量化。255?我使用公共python库
tfjs
,转换
.h5
模型文件。它生成多个文件,包括一个
.json
文件和三个
.bin
文件。然后,当我尝试使用javascript中的
.json
文件加载模型时。这至少需要10秒。没有量化基本上会缩小模型大小以获得性能,同时精度略有下降。您可以尝试通过引用应用量化来再次转换模型。然后尝试该模式,它会更快。欢迎使用SO,请在提供“链接答案”时添加更多详细信息