TensorFlow-GPU加速仅用于训练？

将GPU加速与TensorFlow结合使用是否只会提高模型训练的速度，或者在数据上使用模型时是否也有助于提高速度。
大多数指南只提到将GPU加速用于培训目的。

它是否也适用于任何一种情况？甚至那些都是通过shell脚本运行的？

---

此外，默认情况下，它会在shell脚本上运行，还是需要显式编码才能工作。

它将同时适用于两者，是的，即使在不进行培训的情况下，它也会加快使用模型的速度（除非模型非常简单，并且将其放在GPU上的开销超过性能成本。）我确实认为使用GPU对于评估模型来说是不必要的。当经常进行训练时，数据被批处理在一起，以便每个训练步骤包含模型的多个运行。此外，还需要计算梯度，这会占用大量的计算时间和内存。重量也需要在训练期间更新。因此，简单的向前传球速度要快得多。我真的认为如果你需要同时做一大堆的向前传球，你会看到一个好处

至于通过shell脚本运行tensorflow模型，我假设如果它们在GPU上训练，它们也会在GPU上运行