Google cloud platform 当文件到达云存储时触发云ml上的培训任务

Google cloud platform 当文件到达云存储时触发云ml上的培训任务,google-cloud-platform,google-cloud-functions,google-kubernetes-engine,Google Cloud Platform,Google Cloud Functions,Google Kubernetes Engine,我正在尝试构建一个应用程序,用户可以将文件上传到云存储。这将触发一个模型训练过程,并在以后进行预测。起初我认为我可以使用cloud函数/pubsub和cloudml来实现这一点,但似乎cloud函数无法触发cloudml所需的gsutil命令 我唯一的选择是启用cloud composer并将GPU连接到kubernetes节点,并创建一个云函数,该函数触发dag在具有GPU的节点上启动pod,并将数据装入bucket吗?似乎有点过分,但我现在想不出其他办法。你说得对。目前,无法从以下位置执行g

我正在尝试构建一个应用程序,用户可以将文件上传到云存储。这将触发一个模型训练过程,并在以后进行预测。起初我认为我可以使用cloud函数/pubsub和cloudml来实现这一点,但似乎cloud函数无法触发cloudml所需的gsutil命令


我唯一的选择是启用cloud composer并将GPU连接到kubernetes节点,并创建一个云函数,该函数触发dag在具有GPU的节点上启动pod,并将数据装入bucket吗?似乎有点过分,但我现在想不出其他办法。

你说得对。目前,无法从以下位置执行gsutil命令:

云函数可以用Node.js、Python、Go和Java编写,并在特定于语言的运行时中执行

我真的很喜欢你的第二种方法。 我想到的另一个想法是使用计算引擎pyhtonapi,通过Python操作符与cloudcomposer中的GCP虚拟机交互。您可以在自动化基础设施和深入研究CloudComposer的核心功能方面找到更多信息

您可以想到的另一个解决方案是Kubeflow,它的目标是在Kubernetes上运行ML工作负载。Kubeflow为您的集群添加了一些资源,以帮助您完成各种任务,包括培训和服务模型以及运行Jupyter笔记本电脑。请看一看

我希望你觉得以上信息有用