Warning: file_get_contents(/data/phpspider/zhask/data//catemap/9/google-cloud-platform/3.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Google cloud platform 每次调用版本时AI平台安装依赖项_Google Cloud Platform_Google Ai Platform - Fatal编程技术网

Google cloud platform 每次调用版本时AI平台安装依赖项

Google cloud platform 每次调用版本时AI平台安装依赖项,google-cloud-platform,google-ai-platform,Google Cloud Platform,Google Ai Platform,我对预测的模型调用有超时问题,这似乎是因为冷启动。 似乎模型的节点几乎每次调用时都在安装依赖项(而minNodes为1)。只有当存在多个版本时,问题才会出现,否则它不会重新安装依赖项,并且它会在1s内预测,而不是执行120s的超时。。。 我需要放一个更高的明尼德鱼还是什么 如果有人遇到了问题并提出了解决方案(或任何建议),我真的很感兴趣;) 谢谢让我看看我是否理解您的问题:您使用的是AI平台模型,每次调用时节点都会安装依赖项。当存在多个版本时,它不会重新安装依赖项,并进行快速预测 为了继续,我需

我对预测的模型调用有超时问题,这似乎是因为冷启动。 似乎模型的节点几乎每次调用时都在安装依赖项(而minNodes为1)。只有当存在多个版本时,问题才会出现,否则它不会重新安装依赖项,并且它会在1s内预测,而不是执行120s的超时。。。 我需要放一个更高的明尼德鱼还是什么

如果有人遇到了问题并提出了解决方案(或任何建议),我真的很感兴趣;)


谢谢

让我看看我是否理解您的问题:您使用的是AI平台模型,每次调用时节点都会安装依赖项。当存在多个版本时,它不会重新安装依赖项,并进行快速预测

为了继续,我需要问您以下问题:

  • 给你的错误是什么?日志上有相关信息吗
  • 您有什么类型的依赖关系?如果您有一个培训应用程序,您可能有不同类型的依赖项(标准和自定义)[3]
  • 当您提到版本时,您是指AI平台中的模型版本,还是指依赖项的不同版本
在试图预测明尼德群岛时,我认为增加这一数字并不能解决问题。根据[1],如果负载更高,它将添加更多节点,然后缩小(至少)minnode。至少有两个节点,SLA[2]将涵盖您,但可能面临相同的问题

[1]-

[2]-

[3]-

这并不能回答这个问题。若要评论或要求作者澄清,请在其帖子下方留下评论。-谢谢你的回答!仅当模型有多个版本时,才重新安装依赖项。如果只有一个版本,一切都会好起来日志中根本没有错误,我只是在执行时有一个超时错误,因为依赖项重新安装。-仅标准依赖项-我指的是模型版本。我已尝试重现该问题,即使有多个版本,依赖项也未安装两次。我知道您正在使用旧的AI平台,您是否尝试过将模型迁移到Vertex AI[1]?[1] -另一方面,我已经检查了是否有任何方法可以延长AI平台上的超时时间,但我没有发现太多。仅此PIT[1]用于请求超时,尽管我们无法为此提供ETA。请将此问题标记为星形,以便您可以在每次功能请求中有更新时获得邮件通知[3]。此外,功能请求的星级越多,实现的可能性就越大[4].[1][2][3][4]