Kubernetes 服务模型中的Kubeflow管道

我开始为一个项目挖掘kubeflow管道，有一个初学者的问题。看起来kubeflow管道在培训中效果很好，但在生产中服务怎么样

---

我有一个相当密集的培训前处理管道，必须将同样的管道应用于生产预测。我可以使用Seldon服务这样的工具来创建一个端点来启动预处理管道，应用模型，然后返回预测吗？或者把所有东西都放在一个docker容器中是更好的方法吗？

是的，你完全可以使用Seldon来提供服务。事实上，Kubeflow团队提供了一种将培训和服务联系起来的简单方法：

---

光顺提供了一种部署预测端点的编程方式。您还可以查看如何使用培训结果部署Seldon端点。

KF管道是为从头到尾运行的管道而设计的。服务进程并没有结束，所以，尽管可能，服务本身也应该在管道之外处理

管道应该做的是最终将经过培训的模型推向长期服务

发球可以由CMLE发球、Kubeflow's TFServe、Seldon等进行

我可以使用Seldon服务这样的工具来创建一个端点来启动预处理管道，应用模型，然后返回预测吗

---

由于容器启动开销，Kubeflow管道通常处理批处理作业。当然，您可以为单个预测运行管道，但延迟可能是不可接受的。对于服务，最好有一个专用的长寿命容器/服务，用于接受请求、转换数据和进行预测。

通常最好在代码中添加解决方案，而不是添加链接：）