Keras 8位量化模型显示出比全精度模型更好的训练精度

Keras 8位量化模型显示出比全精度模型更好的训练精度,keras,deep-learning,conv-neural-network,quantization,Keras,Deep Learning,Conv Neural Network,Quantization,我试图比较全精度模型和8位量化模型的精度,我发现量化模型比全精度模型具有更高的训练精度。这可能吗?我的数据集由8000列火车和2000个测试图像组成。但是,全精度的验证精度高于8位模型的预期精度。 对于8位量化,我使用了Bert moons()所做的功。是的,这是可能的。这就是为什么验证和测试精度很重要。即使有了这些,你的结果也和你的数据一样好。您还应该研究此类情况下的k-折叠交叉验证。感谢您的注意,但降低精度并不奇怪,通常情况下,与降低的精度相比,降低的精度被认为更准确。对于这种行为有什么解释

我试图比较全精度模型和8位量化模型的精度,我发现量化模型比全精度模型具有更高的训练精度。这可能吗?我的数据集由8000列火车和2000个测试图像组成。但是,全精度的验证精度高于8位模型的预期精度。
对于8位量化,我使用了Bert moons()所做的功。

是的,这是可能的。这就是为什么验证和测试精度很重要。即使有了这些,你的结果也和你的数据一样好。您还应该研究此类情况下的k-折叠交叉验证。感谢您的注意,但降低精度并不奇怪,通常情况下,与降低的精度相比,降低的精度被认为更准确。对于这种行为有什么解释吗?有些难以想象,但并非完全不可预测,我们从未搜索过完整的搜索空间,因此有可能存在更好的模型。此外,它对您当前拥有的数据的性能更好,它可能不适用于任何其他数据,甚至可能比高精度模型更通用。谢谢!这是有道理的。因此,一旦我们在更大的数据集上运行了一些,那么得出结论就更具决定性了。