SyntaxNet要处理大量句子,GPU会提高性能吗?

SyntaxNet要处理大量句子,GPU会提高性能吗?,syntax,tensorflow,nlp,gpu,Syntax,Tensorflow,Nlp,Gpu,我有一个很大的原始文本句子数据集(即约5.000.000),我想使用已经为英语培训过的SyntaxNet处理这些句子。也就是说,我只想使用SyntaxNet模型处理句子,我不想训练任何新的模型 使用GPU设置处理环境会对性能产生影响吗 我了解到,大多数繁重的CPU操作都是估计网络/模型的参数和权重,一旦这些参数和权重被估计,应用经过训练的网络应该比训练更快 然而,我以前从未使用过Tensorflow,我不知道在将已经训练过的模型应用于数据时是否使用GPU 还有,有人知道有什么简单的方法可以将Sy

我有一个很大的原始文本句子数据集(即约5.000.000),我想使用已经为英语培训过的SyntaxNet处理这些句子。也就是说,我只想使用SyntaxNet模型处理句子,我不想训练任何新的模型

使用GPU设置处理环境会对性能产生影响吗

我了解到,大多数繁重的CPU操作都是估计网络/模型的参数和权重,一旦这些参数和权重被估计,应用经过训练的网络应该比训练更快

然而,我以前从未使用过Tensorflow,我不知道在将已经训练过的模型应用于数据时是否使用GPU


还有,有人知道有什么简单的方法可以将SyntaxNet设置为守护进程或web服务,从而可以轻松地进行批处理吗?

您仍然需要在图形上执行大量的张量操作来预测某些内容。因此,GPU仍然为推理提供性能改进。看看这个,他们还没有在TF上测试他们的东西,但它仍然是相关的:

我们的结果表明,GPU提供了最先进的推理 性能和能源效率,使其成为首选平台 任何想要在现场部署经过训练的神经网络的人。在里面 特别是,Titan X的性能要高出5.3到6.7倍 性能优于16核Xeon E5 CPU,同时实现3.6到4.4 是能源效率的三倍


关于如何部署您的模型,请查看

谢谢您的回答!