Google cloud platform 使用谷歌云AI平台和GPU运行自定义预测

Google cloud platform 使用谷歌云AI平台和GPU运行自定义预测,google-cloud-platform,gcp-ai-platform-notebook,gcp-ai-platform-training,Google Cloud Platform,Gcp Ai Platform Notebook,Gcp Ai Platform Training,我正在尝试将MaskRCNN模型部署到GCP AI平台。默认的在线预测不适用于我,因为我的输入大小大于允许的限制。因此,我决定继续使用自定义预测路线 关于自定义预测,我尝试使用比默认提供的更大的机器类型,因为我的模型比默认模型(mls1-c1-m2)更大,需要更多的内存 我想用n1-standard-4机器类型部署模型,下面是我正在运行的命令: gcloud beta ai-platform versions create $VERSION_NAME --model $MODEL_NAME

我正在尝试将MaskRCNN模型部署到GCP AI平台。默认的在线预测不适用于我,因为我的输入大小大于允许的限制。因此,我决定继续使用自定义预测路线

关于自定义预测,我尝试使用比默认提供的更大的机器类型,因为我的模型比默认模型(mls1-c1-m2)更大,需要更多的内存

我想用n1-standard-4机器类型部署模型,下面是我正在运行的命令:

gcloud beta ai-platform versions create $VERSION_NAME   --model $MODEL_NAME   --runtime-version 1.14   --python-version 3.5   --origin $MODEL_DIR   --package-uris gs://pred_02/staging/my_custom_code-0.1.tar.gz --framework tensorflow  --prediction-class predictor.MyPredictor --machine-type n1-standard-4 
但这带来了一个错误:

ERROR: (gcloud.beta.ai-platform.versions.create) FAILED_PRECONDITION: Machine type n1-standard-4 only support FRAMEWORK_TENSORFLOW
我也尝试了--framework arg的不同变体,但它们都抛出了一些类似的错误。那么,为什么它会抛出这个错误呢

如果这是可行的,那么我的想法是使用这种机器类型的k80加速器。这将是我的第二个问题?我可以用加速器运行它进行自定义预测吗?

--预测类在n1机器类型上还不起作用。在此之前,您可以使用
mls1-c4-m2
机器。检查机器类型以了解每种机器类型的约束

自定义预测例程仍在发展中(beta版)。你应该检查更新

--预测类
在n1机器类型上还不起作用。在此之前,您可以使用
mls1-c4-m2
机器。检查机器类型以了解每种机器类型的约束


自定义预测例程仍在发展中(beta版)。你应该检查更新

您的模型是符合版本1.14的Tensorflow模型吗?您的模型是符合版本1.14的Tensorflow模型吗?因此,我们的my模型比mls1-c4-m2使用更多内存,因此,我不得不使用alpha版本的机器类型“mls1-c4-m4”。我可以用它得到结果,但速度非常慢。仍然只能加载到500MB的模型。因此,我们的my模型使用的内存比mls1-c4-m2提供的要多,因此,我不得不使用alpha版本的机器类型“mls1-c4-m4”。我可以得到结果,但速度非常慢。仍然只能加载到500MB的模型。