Amazon web services AWS SageMaker在同一台计算机上托管多个模型（ML计算实例）
通过使用部署功能，我能够托管在SageMaker中开发的模型。目前，我发现我开发的不同模型需要部署在不同的ML计算实例上Amazon web services AWS SageMaker在同一台计算机上托管多个模型（ML计算实例）,amazon-web-services,machine-learning,hosting,endpoint,amazon-sagemaker,Amazon Web Services,Machine Learning,Hosting,Endpoint,Amazon Sagemaker,通过使用部署功能，我能够托管在SageMaker中开发的模型。目前，我发现我开发的不同模型需要部署在不同的ML计算实例上 有没有一种方法可以在同一个实例上部署所有模型，使用单独的实例似乎是非常昂贵的选择。如果可以在同一实例上部署多个模型，这会为模型创建不同的端点吗？SageMaker旨在解决大规模部署问题，您希望每秒有数千次模型调用。对于这种用例，您希望在每个实例上都有同一模型的多个任务，并且通常在负载平衡器和自动缩放组后面有同一模型的多个实例，以允许根据需要进行上下缩放 如果您不需要这样的规模
有没有一种方法可以在同一个实例上部署所有模型，使用单独的实例似乎是非常昂贵的选择。如果可以在同一实例上部署多个模型，这会为模型创建不同的端点吗？SageMaker旨在解决大规模部署问题，您希望每秒有数千次模型调用。对于这种用例，您希望在每个实例上都有同一模型的多个任务，并且通常在负载平衡器和自动缩放组后面有同一模型的多个实例，以允许根据需要进行上下缩放 如果您不需要这样的规模，并且对于您需要处理的每秒请求而言，即使是单个模型的单个实例也不经济，那么您可以将在SageMaker中培训过的模型放在一些服务框架（如MXNet service（）或TensorFlow service（））后面，自己托管它们
还请注意，您可以控制用于托管的实例类型，并且可以为较小的负载选择较小的实例。以下是您可以从中选择的各种实例类型的列表：我相信这是AWS sagemaker中引入的一项新功能，请参考下面的链接，这些链接与此完全相同 是的，现在在AWS sagemaker中，您可以在同一个ML实例中部署多个模型 在下面的链接中， 你可以找到一些例子
- 多模式带来你自己的
- 多模式学习主值
- 多模式提升主值