NX Tensorrt上Tensorflow的精度下降
我有一个tensorflow训练模型，并在tensorflow进行测试，准确率达到95% 将Tensorflow模型转换为ONNX并转换为TensorRT。 TensorRT引擎以16位精度运行。 在TensorRT，准确率下降到75%。即使使用kTF32，准确率仍为75%。 测试两个测试的相同图像和相同的输入大小 我应该在哪里寻找这种精度下降？唯一的区别是我在TensorRT中进行批量推理，但在Tensorflow中没有 使用OpenCV读取Tensorflow和TensorRT的图像NX Tensorrt上Tensorflow的精度下降,tensorflow,onnx,tensorrt,Tensorflow,Onnx,Tensorrt,我有一个tensorflow训练模型，并在tensorflow进行测试，准确率达到95% 将Tensorflow模型转换为ONNX并转换为TensorRT。 TensorRT引擎以16位精度运行。 在TensorRT，准确率下降到75%。即使使用kTF32，准确率仍为75%。 测试两个测试的相同图像和相同的输入大小 我应该在哪里寻找这种精度下降？唯一的区别是我在TensorRT中进行批量推理，但在Tensorflow中没有 使用OpenCV读取Tensorflow和TensorRT的图像 从Te
从Tensorflow到ONNX的转换精度会下降吗？现在我发现了这个问题。Tensorflow通过乘以1/255.0对输入图像进行归一化。但是在tensorrt标准化中，它是1-x/255.0。这就是问题所在。现在我有了同样的准确度