Apache spark “热执行”;spark submit“;对抗远程火花控制?

Apache spark “热执行”;spark submit“;对抗远程火花控制?,apache-spark,pyspark,Apache Spark,Pyspark,假设我有一个远程火花束。我可以使用ssh登录远程spark群集主机,并使用如下示例运行spark submit: $SPARK_HOME/bin/spark-submit /usr/lib/spark2/examples/src/main/python/pi.py 现在我在笔记本电脑上安装了spark,但我没有运行它。 我想在笔记本电脑上针对远程SPARK群集主机运行$SPARK\u HOME/bin/SPARK submit。如何操作?是的,您可以在此命令中提供远程主机url,例如。 $S

假设我有一个远程火花束。我可以使用
ssh
登录远程spark群集主机,并使用如下示例运行
spark submit

$SPARK_HOME/bin/spark-submit /usr/lib/spark2/examples/src/main/python/pi.py
现在我在笔记本电脑上安装了
spark
,但我没有运行它。
我想在笔记本电脑上针对远程SPARK群集主机运行
$SPARK\u HOME/bin/SPARK submit
。如何操作?

是的,您可以在此命令中提供远程主机url,例如。

$SPARK_HOME/bin/SPARK提交-主spark://url_to_master:7077 /usr/lib/spark2/examples/src/main/python/pi.py

谢谢。我如何才能找到正确的
--master
(如果我可以访问远程集群)?我想你错过了一些重要的细节。根据您之前的问题,您正在使用纱线。在这种情况下,配置取决于您的Hadoop配置,master只是
Thread
。再次感谢。我确实使用
纱线
但是如果我想连接到远程
纱线
我需要指定
纱线
主机、端口等,不是吗?