Api 可以在GPU上使用带有异步Python函数(Redis队列)的转换器模型吗?

Api 可以在GPU上使用带有异步Python函数(Redis队列)的转换器模型吗?,api,flask,redis,transformer,callbackurl,Api,Flask,Redis,Transformer,Callbackurl,在GPU上放置张量和模型时出现问题,我无法使用作业执行和访问函数的结果。当我的模型和数据都在CPU上并且一切正常时,我尝试使用相同的方法(不要使用model.to) 我找到了一个服务拖缆(),但我不知道它是否可以异步工作 谢谢你的帮助 另外,我的动机是使用API将数据发送到Transformer模型,并获得一个回调URL,它允许我稍后访问结果 job = q.enqueue_call(func='aijob', args=(text_to_classify,True,), result_ttl=

在GPU上放置张量和模型时出现问题,我无法使用
作业执行和访问函数的结果。当我的模型和数据都在CPU上并且一切正常时,我尝试使用相同的方法(不要使用
model.to

我找到了一个服务拖缆(),但我不知道它是否可以异步工作

谢谢你的帮助

另外,我的动机是使用API将数据发送到Transformer模型,并获得一个回调URL,它允许我稍后访问结果

job = q.enqueue_call(func='aijob', args=(text_to_classify,True,), result_ttl=5000)