Python MxNet：在大型图像数据集上进行推断的好方法

我有数百万张图片可以推断。我知道如何编写自己的代码来创建批次，并将批次转发到经过培训的网络，以便获得预测。但是，创建批处理会导致大量数据操作，而这些操作并没有得到特别优化

---

在自己进行任何优化之前，我想知道是否有一些推荐的批量预测/推断方法。更具体地说，由于这是一个常见的用例，我想知道是否有一个接口/api，可以在给定一个经过训练的模型（即符号文件和历元检查点）的情况下执行通常的图像预处理、批量创建和推断。

如果您使用的是标准的预训练模型，我强烈建议大家看看——一个基于ApacheMXnet的计算机视觉工具包

他们拥有最先进模型的非常好的实现，有时甚至超过了发表在科学论文上的原始结果。最酷的是，它们还提供了数据预处理代码——据我所知，这就是您要寻找的。（请参见

gluncv.data.transforms.presets

package）

我不知道你想做什么样的推理，比如图像分类、分割等等，但是看看这个，很可能你会找到你需要的

除此之外，为了优化快速的挂钟时间，您需要确保GPU的利用率达到100%。您可能会发现观看会很有用，可以了解有关优化性能的提示和技巧的更多信息。它讨论了培训，但同样的技巧也适用于推理