在硬件中实现LSTM推理时,批量大小是否重要?

在硬件中实现LSTM推理时,批量大小是否重要?,lstm,hardware,fpga,recurrent-neural-network,hardware-acceleration,Lstm,Hardware,Fpga,Recurrent Neural Network,Hardware Acceleration,我试图在硬件上实现一个递归神经网络模型(LSTM),该模型在Pytorch中进行了训练,以获得所需的结果。我试图抽象出要在硬件(FPGA)中实现的高级模型的推理,我知道一些超参数用于训练,在推理实现中应该无关紧要,但我不确定这些参数: 1-时间步数 2-批量大小 我的任务是角色级语言建模

我试图在硬件上实现一个递归神经网络模型(LSTM),该模型在Pytorch中进行了训练,以获得所需的结果。我试图抽象出要在硬件(FPGA)中实现的高级模型的推理,我知道一些超参数用于训练,在推理实现中应该无关紧要,但我不确定这些参数:

1-时间步数 2-批量大小

我的任务是角色级语言建模