Amazon web services Tensorflow:在计划批处理过程上运行预测的体系结构

Amazon web services Tensorflow:在计划批处理过程上运行预测的体系结构,amazon-web-services,tensorflow,aws-lambda,tensorflow-serving,Amazon Web Services,Tensorflow,Aws Lambda,Tensorflow Serving,事实: 我有一个aws批处理流程,它从ECR提取一个容器(C1),并在每个星期天(P1)运行一个流程 我已经训练了一个tensorflow模型,我想在上述过程(P1)中使用该模型来推断一些数据 我希望这个推断过程是另一个微服务(C2)。我不想在C1上添加tensorflow C1应该调用外部服务(C2)来推断数据 我认为可以满足我要求的是在aws lambda上提供tensorflow服务。一些想法: 当您只需要预测而不需要其他预处理事件时,tensorflow服务似乎很容易实现。同时在运行

事实:

  • 我有一个aws批处理流程,它从ECR提取一个容器(C1),并在每个星期天(P1)运行一个流程
  • 我已经训练了一个tensorflow模型,我想在上述过程(P1)中使用该模型来推断一些数据
  • 我希望这个推断过程是另一个微服务(C2)。我不想在C1上添加tensorflow
  • C1应该调用外部服务(C2)来推断数据
我认为可以满足我要求的是在aws lambda上提供tensorflow服务。一些想法:

  • 当您只需要预测而不需要其他预处理事件时,tensorflow服务似乎很容易实现。同时在运行时间等方面进行了优化
  • 因为我只需要在周日打电话给这项服务,aws lambda非常合适,因为我只会在使用它时付费
  • aws lambda的最大超时时间为900秒。如果我必须预测数千个数据点,那需要900多秒,我可以成批预测
  • 这有意义吗?我在任何地方都没有看到tensorflow发球aws lambda的组合

    备份只需加载tensorflow模型,并在aws lambda上的烧瓶应用程序上提供。然而,我已经了解到,使用tensorflow和烧瓶并不被认为是生产就绪的解决方案,因此我正在寻找一些替代方案

    你的方法是什么?任何见解或评论都是有用的。谢谢