Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/6.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Amazon ec2 Spark AMI用于Ubuntu(或者Centos)——不是amazon linux?_Amazon Ec2_Apache Spark - Fatal编程技术网

Amazon ec2 Spark AMI用于Ubuntu(或者Centos)——不是amazon linux?

Amazon ec2 Spark AMI用于Ubuntu(或者Centos)——不是amazon linux?,amazon-ec2,apache-spark,Amazon Ec2,Apache Spark,spark发行版包括一个ec2启动脚本,该脚本指向github中spark ami的位置。不幸的是,ami(只有一个)是AmazonLinux,这是非常有限的。特别是AmazonLinuxAMI的软件包支持有限 因此,如果我想在AmazonLinux上获得php5.4(而不是默认的5.3),那么就没有这样的运气了 是否有任何非amazon linux ami可用于spark-ec2?除了这些ami之外,我不知道还有哪套最新的spark ami 也就是说,我开发了一种方法,使用从一组基本AMI和一

spark发行版包括一个ec2启动脚本,该脚本指向github中spark ami的位置。不幸的是,ami(只有一个)是AmazonLinux,这是非常有限的。特别是AmazonLinuxAMI的软件包支持有限

因此,如果我想在AmazonLinux上获得php5.4(而不是默认的5.3),那么就没有这样的运气了


是否有任何非amazon linux ami可用于spark-ec2?

除了这些ami之外,我不知道还有哪套最新的spark ami

也就是说,我开发了一种方法,使用从一组基本AMI和一些Bash脚本自动创建一组Spark AMI:

这项工作是作为项目的一部分进行的

您需要做一些工作才能让它与Ubuntu一起工作,因为脚本目前假定是基于
yum
的Linux发行版

基本上:

  • 定义要构建的基础AMI
  • 显示正在运行以生成映像的脚本
  • 管线告诉Packer将构建的AMI复制到所有EC2区域。你可能想改变这个
对于您来说,成功的最短路径可能是尝试一个CentOS或Fedora base映像,其中包含您正在寻找的软件包。这将最小化您对Bash脚本所做的更改


大约在Spark 1.4发布时间范围内(大约2015年6月/7月),我将努力将其合并到主
Spark-ec2
repo中。

我不知道有任何这样的图像,但您可以使用Packer and轻松生成自己的AMI。您所要做的就是编辑以指定要使用的基本AMI。在1.4版本的时间范围内,我将尝试将其合并到
mesos/spark-ec2
中,以便社区可以维护它们。你可以在这里关注相关的JIRA:@NickChammas为什么不把你的评论作为一个答案,这样我就可以奖励你。顺便说一句,我一直在关注你在dev spark ML上的帖子。你真是多产,谢谢。)如果你最终尝试了打包机的东西,需要指点,请告诉我。我很乐意帮忙。