Apache spark 库伯内特斯的齐柏林飞艇和火花
我已经部署了一个spark集群,它有一个主节点和一个工作节点Apache spark 库伯内特斯的齐柏林飞艇和火花,apache-spark,kubernetes,apache-zeppelin,Apache Spark,Kubernetes,Apache Zeppelin,我已经部署了一个spark集群,它有一个主节点和一个工作节点 $ kubectl get pods NAME READY STATUS RESTARTS AGE spark-master-0 1/1 Running 0 1d spark-worker-0 1/1 Running
$ kubectl get pods
NAME READY STATUS RESTARTS AGE
spark-master-0 1/1 Running 0 1d
spark-worker-0 1/1 Running 0 1d
到达此服务后面的主节点:
$ kubectl get services
NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE
spark-master-svc NodePort 172.30.152.169 <none> 7077:31095/TCP,80:30021/TCP 1d
我编辑了spark解释器,以便访问此spark群集:
如您所见,我告诉您spark位于spark://spark-master-svc:7077
然而,当我试图运行一个段落作业时,我意识到创建了一个新的pod
$ kubectl get pods
NAME READY STATUS RESTARTS AGE
spark-master-0 1/1 Running 0 1d
spark-worker-0 1/1 Running 0 1d
zeppelin-54748cbd67-7qst8 1/1 Running 0 1h
spark-txljya 0/1 Init:ImagePullBackOff 0 1h
我认为段落作业是直接针对我的spark cluster“提交”的。这个吊舱是干什么用的
另一个问题:为什么需要一个SPARK\u HOME
?我的意思是,spark正在运行到分离的集群中?似乎火星必须安装在齐柏林飞艇舱内。。。我很困惑
正如你所看到的,我有点迷路了
有什么想法吗
$ kubectl get pods
NAME READY STATUS RESTARTS AGE
spark-master-0 1/1 Running 0 1d
spark-worker-0 1/1 Running 0 1d
zeppelin-54748cbd67-7qst8 1/1 Running 0 1h
spark-txljya 0/1 Init:ImagePullBackOff 0 1h