Python 使用Tensorflow服务的双向流

Python 使用Tensorflow服务的双向流,python,tensorflow,grpc,tensorflow-serving,google-cloud-speech,Python,Tensorflow,Grpc,Tensorflow Serving,Google Cloud Speech,我有一个模型,它接受任意长度的数据流并执行分类。我使用Tensorflow服务来侦听gRPC请求,并在经过训练的模型上执行分类 Google Cloud Speech API具有使用gRPC请求时可用的功能,该功能“允许您将音频流传输到云语音API,并在音频处理过程中实时接收语音识别结果流” 我相信这是可能的,因为在中描述了双向流式RPC,其中“服务器和客户端可以“乒乓”:服务器获取请求,然后发送回响应,然后客户端根据响应发送另一个请求,依此类推” 所以现在我想知道我是否可以通过Tensorfl

我有一个模型,它接受任意长度的数据流并执行分类。我使用Tensorflow服务来侦听gRPC请求,并在经过训练的模型上执行分类

Google Cloud Speech API具有使用gRPC请求时可用的功能,该功能“允许您将音频流传输到云语音API,并在音频处理过程中实时接收语音识别结果流”

我相信这是可能的,因为在中描述了双向流式RPC,其中“服务器和客户端可以“乒乓”:服务器获取请求,然后发送回响应,然后客户端根据响应发送另一个请求,依此类推”

所以现在我想知道我是否可以通过Tensorflow服务实现类似于Google云语音API流式识别的功能。关于这一点,我在TF服务的官方文档中唯一能找到的参考资料是:“Servables可以是任何类型和接口,支持灵活性和未来的改进,例如:流式结果[…]”


使用TF服务是否已经可以实现此功能(双向流)?如果是,怎么做?如果没有,扩展TF服务以添加此功能的最佳方式是什么?

这似乎是目前实际上不可用的。我已在TensorFlow服务GitHub存储库上提交了一份申请,但遭到拒绝,并给出了以下回复:

TF Serving目前不支持这种开箱即用的用例,但正如您所提到的,它可以利用其扩展性来实现这一点,而无需对内部进行大手术。我们目前没有任何短期计划将其添加到官方发行中

他们也不愿意提供任何指导:

不幸的是,这超出了我们目前能够支持的范围,因此您必须设计一个解决方案,并将其保存在您自己的回购协议中