Python 量化TFlite模型及其Numpy实现的不同结果
我正在使用Tensorflow/Keras,希望量化模型参数,然后使用Numpy实现模型。 我建立了一维CNN模型,训练它,然后量化它的参数,到UINT8,使用Tensorflow训练后量化,然后提取权重和偏差,并将其导出到.npy文件。 在使用Numpy(dtype UINT8)构建相同的一维CNN后,使用提取的权重和偏差,我逐层检查结果,并与量化模型结果进行比较,得到不同的结果。 当我比较浮点模型的Numpy实现的结果时(没有量化到UINT8),我确实得到了与Keras模型输出相同的输出(因此我猜我的Numpy模型工作得很好:) 据我所知,解释器.get_input_details()包括输入张量的量化比例和零点参数,如果我想将UINT8权重转换为float,这是必需的-对吗Python 量化TFlite模型及其Numpy实现的不同结果,python,tensorflow,keras,tensorflow-lite,quantization,Python,Tensorflow,Keras,Tensorflow Lite,Quantization,我正在使用Tensorflow/Keras,希望量化模型参数,然后使用Numpy实现模型。 我建立了一维CNN模型,训练它,然后量化它的参数,到UINT8,使用Tensorflow训练后量化,然后提取权重和偏差,并将其导出到.npy文件。 在使用Numpy(dtype UINT8)构建相同的一维CNN后,使用提取的权重和偏差,我逐层检查结果,并与量化模型结果进行比较,得到不同的结果。 当我比较浮点模型的Numpy实现的结果时(没有量化到UINT8),我确实得到了与Keras模型输出相同的输出(因
我很乐意建议如何获得与量化Keras模型相同的结果你能分享你使用的精确转换选项,以及你用来比较推断结果的代码吗?我很快会做的,你知道TF lite如何在执行转换后量化时向未经验证的模型添加层吗?