Apache spark 具有两个主节点的Spark群集。可能吗?

Apache spark 具有两个主节点的Spark群集。可能吗?,apache-spark,Apache Spark,假设我们有一个由22个节点组成的Spark集群。集群中是否可能有2个主节点,例如由Zookeeper协调 一个主节点是备用节点。这是可能的。使用以下配置选项: 配置 为了启用此恢复模式,您可以使用以下配置在SPARK env中设置SPARK_守护程序_JAVA_选项: 系统属性含义 spark.deploy.recoveryMode设置为ZOOKEEPER以启用备用主恢复模式(默认值:无) spark.deploy.zookeeper.url zookeeper集群url(例如,192.168.

假设我们有一个由22个节点组成的
Spark
集群。集群中是否可能有2个主节点,例如由
Zookeeper
协调


一个主节点是备用节点。

这是可能的。使用以下配置选项:

配置

为了启用此恢复模式,您可以使用以下配置在SPARK env中设置SPARK_守护程序_JAVA_选项:

系统属性含义

spark.deploy.recoveryMode设置为ZOOKEEPER以启用备用主恢复模式(默认值:无)

spark.deploy.zookeeper.url zookeeper集群url(例如,192.168.1.100:2181192.168.1.101:2181)

spark.deploy.zookeeper.dir zookeeper中存储恢复状态的目录(默认值:/spark)