Amazon ec2 Spark AMI用于Ubuntu(或者Centos)——不是amazon linux?
spark发行版包括一个ec2启动脚本,该脚本指向github中spark ami的位置。不幸的是,ami(只有一个)是AmazonLinux,这是非常有限的。特别是AmazonLinuxAMI的软件包支持有限 因此,如果我想在AmazonLinux上获得php5.4(而不是默认的5.3),那么就没有这样的运气了Amazon ec2 Spark AMI用于Ubuntu(或者Centos)——不是amazon linux?,amazon-ec2,apache-spark,Amazon Ec2,Apache Spark,spark发行版包括一个ec2启动脚本,该脚本指向github中spark ami的位置。不幸的是,ami(只有一个)是AmazonLinux,这是非常有限的。特别是AmazonLinuxAMI的软件包支持有限 因此,如果我想在AmazonLinux上获得php5.4(而不是默认的5.3),那么就没有这样的运气了 是否有任何非amazon linux ami可用于spark-ec2?除了这些ami之外,我不知道还有哪套最新的spark ami 也就是说,我开发了一种方法,使用从一组基本AMI和一
是否有任何非amazon linux ami可用于spark-ec2?除了这些ami之外,我不知道还有哪套最新的spark ami 也就是说,我开发了一种方法,使用从一组基本AMI和一些Bash脚本自动创建一组Spark AMI: 这项工作是作为项目的一部分进行的 您需要做一些工作才能让它与Ubuntu一起工作,因为脚本目前假定是基于
yum
的Linux发行版
基本上:
- 定义要构建的基础AMI
- 显示正在运行以生成映像的脚本
- 管线告诉Packer将构建的AMI复制到所有EC2区域。你可能想改变这个
大约在Spark 1.4发布时间范围内(大约2015年6月/7月),我将努力将其合并到主
Spark-ec2
repo中。我不知道有任何这样的图像,但您可以使用Packer and轻松生成自己的AMI。您所要做的就是编辑以指定要使用的基本AMI。在1.4版本的时间范围内,我将尝试将其合并到mesos/spark-ec2
中,以便社区可以维护它们。你可以在这里关注相关的JIRA:@NickChammas为什么不把你的评论作为一个答案,这样我就可以奖励你。顺便说一句,我一直在关注你在dev spark ML上的帖子。你真是多产,谢谢。)如果你最终尝试了打包机的东西,需要指点,请告诉我。我很乐意帮忙。