Apache spark 如何在离线环境下编译Spark
我有两台机器安装了相同的操作系统(RedHat 6.5 64位),但硬件配置不同。机器1(表示为Apache spark 如何在离线环境下编译Spark,apache-spark,Apache Spark,我有两台机器安装了相同的操作系统(RedHat 6.5 64位),但硬件配置不同。机器1(表示为M1)具有网络访问权限,而机器2(表示为M2)没有网络访问权限M2具有更强大的硬件(例如,更多的CPU核和内存)。现在我想在M2中设置Spark环境 我已经从github官方存储库下载了spark-2.0.0-preview。我试着编译它,但由于没有网络访问,它不起作用。在谷歌搜索之后,我找到了。因此,我转向M1来编译spark-2.0.0-preview包。编译命令是/build/mvn-Dskip
M1
)具有网络访问权限,而机器2(表示为M2
)没有网络访问权限M2
具有更强大的硬件(例如,更多的CPU核和内存)。现在我想在M2
中设置Spark
环境
我已经从github官方存储库下载了spark-2.0.0-preview
。我试着编译它,但由于没有网络访问,它不起作用。在谷歌搜索之后,我找到了。因此,我转向M1
来编译spark-2.0.0-preview
包。编译命令是/build/mvn-DskipTests clean-package
。它显示构建成功
。然后我将整个spark-2.0.0-preview
目录和M1
中的~/.m2/*
复制到m2
中相应的位置
在M2
中,我可以运行/bin/运行示例SparkPi
,我认为M1
中的内置库也可以在M2
中正常运行。但是,当我运行命令/build/mvn-DskipTests clean package
尝试在M2
中构建本地化库时,它显示了一个错误:
[info] Error occurred during initialization of VM
[info] java.lang.Error: Properties init: Could not determine current working directory.
[info] at java.lang.System.initProperties(Native Method)
[info] at java.lang.System.initializeSystemClass(System.java:1166)
[info]
[error] Compile failed at May 19, 2016 1:43:09 AM [0.425s]
我意识到如果命令中的clean
导致问题。clean
意味着mvn
将在上一次编译期间删除临时文件。因此,我尝试了另一个命令/build/mvn-DskipTests-package
。但错误仍然存在
我有两个问题:
M1
中内置的spark-2.0.0-preview
库是否适用于M2
Spark
时,是否有任何编译命令可以保留所有临时文件?因此,我们可以简单地将所有文件复制到另一台机器中以重用它们李>