Google cloud platform 在GCP中规划体系结构

Google cloud platform 在GCP中规划体系结构,google-cloud-platform,Google Cloud Platform,我想规划一个基于GCP云平台的架构。以下是我必须涵盖的主题领域。有人能帮我找到执行该操作的正确服务吗 数据摄取(批处理、实时、调度程序) 数据分析 基于AI/ML的数据处理 分析数据处理 弹性搜索 用户界面 批量实时发布 保安 记录/审计 监测 代码库 如果我遗漏了一些我必须注意的东西,那么请添加同样的东西。GCP提供了许多功能可能部分重叠的产品。使用什么产品取决于更具体的用例,您可以找到关于它的概述 话虽如此,您所询问的服务的总体总结如下: 1。数据摄取(批量、实时、计划程序) 这将取决于您的

我想规划一个基于GCP云平台的架构。以下是我必须涵盖的主题领域。有人能帮我找到执行该操作的正确服务吗

  • 数据摄取(批处理、实时、调度程序)
  • 数据分析
  • 基于AI/ML的数据处理
  • 分析数据处理
  • 弹性搜索
  • 用户界面
  • 批量实时发布
  • 保安
  • 记录/审计
  • 监测
  • 代码库

  • 如果我遗漏了一些我必须注意的东西,那么请添加同样的东西。

    GCP提供了许多功能可能部分重叠的产品。使用什么产品取决于更具体的用例,您可以找到关于它的概述

    话虽如此,您所询问的服务的总体总结如下:

    1。数据摄取(批量、实时、计划程序)

    这将取决于您的数据来自何处,但最常见的选项是(批处理和流式处理)和流式处理消息

    2。数据分析

    (它实际上运行在数据流之上)可用于数据分析,这是一个关于如何实现的概述

    3。基于AI/ML的数据处理

    对于这一点,您必须根据您的需要进行调整。对于具有有限的机器学习专业知识的开发人员,有一种支持快速训练和部署模型的方法。对于经验更丰富的数据科学家来说,这允许培训和预测使用TensorFlow或scikit learn等框架制作的定制模型

    此外,还有一些预先训练过的模型,如、或

    另外,甚至可以在GCP的数据仓库中用SQL语言执行一些ML任务

    4。分析数据处理

    根据您的需要,您可以使用,这是一个托管Hadoop和Spark服务,或者用于流和批处理数据。 设计时还考虑了分析操作

    5。弹性搜索

    GCP没有直接提供的托管弹性搜索服务,但您可以在上找到几个选项,如a或谷歌的a

    6。用户界面

    如果你指的是一个供你自己使用的用户界面,这就是你要使用的。如果您指的是终端用户的UI,我建议使用

    如果您指的是用于数据探索的UI,那么就有了它,它本质上是一个托管笔记本服务,您可以在其中实时构建数据图

    7。批量和实时发布

    GCP中同步和异步消息的发布服务是

    8。安全性

    GCP中的大多数安全问题都得到了解决。这本身就是一个广泛的话题,可能需要一个单独的问题

    9。记录/审核

    GCP用于记录其大多数产品,并提供许多方法来处理和分析这些日志

    10。监控

    也有

    11。代码库

    为此,有一个与GCP集成的,也可以轻松与Github存储库同步的

    12。分析数据仓库

    你没有要求这个,但我认为它是数据分析堆栈的一个重要部分。 在GCP的情况下,这将是