使用Docker运行Hadoop(适用于开发环境和产品环境)

使用Docker运行Hadoop(适用于开发环境和产品环境),hadoop,docker,Hadoop,Docker,使用Docker运行Hadoop最简单的方法(适用于开发环境和真实环境)是什么 也就是说,对于本地开发环境和真实环境的差异应该是唯一的目标机器 有关 很多也有一些,但是如果您想要适合不同环境的东西,那么您需要完全分布式运行—即使用一个用于HDFS和纱线主节点的容器,以及多个用于工作节点的容器 我有一个像这样的图像,你可以用它作为起点:。从中可以看出,它从JavaBase映像开始,安装Hadoop并使用一个容器,因此容器可以作为主容器或工作容器运行 这意味着您可以使用最新的网络堆栈

使用Docker运行Hadoop最简单的方法(适用于开发环境和真实环境)是什么

也就是说,对于本地开发环境和真实环境的差异应该是唯一的目标机器

有关

很多

也有一些,但是如果您想要适合不同环境的东西,那么您需要完全分布式运行—即使用一个用于HDFS和纱线主节点的容器,以及多个用于工作节点的容器

我有一个像这样的图像,你可以用它作为起点:。从中可以看出,它从JavaBase映像开始,安装Hadoop并使用一个容器,因此容器可以作为主容器或工作容器运行

这意味着您可以使用最新的网络堆栈使用Docker运行分布式群集:

docker network create hadoop

docker run -d -p 50070:50070 -p 8088:8088 \
    --network hadoop --name hadoop-dotnet-master \
    sixeyed/hadoop-dotnet master

docker run -d -p 50075:50075 -p 8142:8042 -p 19888:19888 \
    --network hadoop 
    sixeyed/hadoop-dotnet worker
或者,您可以使用运行完全分布式集群

该图像还包括.NET Core,但如果您不使用它,则可以剪切掉该部分