Hadoop 在AMAZON EMR上运行纱线应用程序

Hadoop 在AMAZON EMR上运行纱线应用程序,hadoop,amazon-ec2,amazon-emr,Hadoop,Amazon Ec2,Amazon Emr,我想在亚马逊EMR上运行雅虎的storm on Thread项目。在EMR上,无法创建主管本地目录。我想可能是连接问题或者没有许可。 你能给我一些建议吗?谢谢你的帮助 2017-03-01 11:38:02主管[错误]初始化时出错 server mk supervisor java.io.IOException:无法创建目录 /mnt/纱线,/mnt1/纱线/用户缓存/纱线/应用缓存/应用程序_1488367739843_0002/集装箱_1488367739843_0002_01_000006

我想在亚马逊EMR上运行雅虎的storm on Thread项目。在EMR上,无法创建主管本地目录。我想可能是连接问题或者没有许可。 你能给我一些建议吗?谢谢你的帮助

2017-03-01 11:38:02主管[错误]初始化时出错 server mk supervisor java.io.IOException:无法创建目录 /mnt/纱线,/mnt1/纱线/用户缓存/纱线/应用缓存/应用程序_1488367739843_0002/集装箱_1488367739843_0002_01_000006/storm/storm-1.0.1/storm-local/supervisor at org.apache.storm.shade.org.apache.commons.io.FileUtils.forceMkdir(FileUtils.java:2384) ~[storm-core-1.0.1.震击器:1.0.1]at org.apache.storm.config$supervisor\u local\u dir.invoke(config.clj:172) ~[storm-core-1.0.1.震击器:1.0.1]at org.apache.storm.config$supervisor\u isupervisor\u dir.invoke(config.clj:177) ~[storm-core-1.0.1.震击器:1.0.1]at org.apache.storm.daemon.supervisor$fn\uuuu9230$exec\u fn\uuuuuu 2461\uuuuu auto\uuuuuuuuuuu 9231.invoke(supervisor.clj:781) ~[storm-core-1.0.1.震击器:1.0.1]at clojure.lang.AFn.applyToHelper(AFn.java:160)~[clojure-1.7.0.jar:?] 在clojure.lang.AFn.applyTo(AFn.java:144)~[clojure-1.7.0.jar:?]at clojure.core$apply.invoke(core.clj:630)~[clojure-1.7.0.jar:?]at org.apache.storm.daemon.supervisor$fn\uuuu9230$mk\u supervisor\uuu9275.doInvoke(supervisor.clj:779) [storm-core-1.0.1.jar:1.0.1]at invoke(RestFn.java:436)[clojure-1.7.0.jar:?]位于 org.apache.storm.daemon.supervisor$_launch.invoke(supervisor.clj:1216) [storm-core-1.0.1.jar:1.0.1]at org.apache.storm.daemon.supervisor$\u main.invoke(supervisor.clj:1249) [storm-core-1.0.1.jar:1.0.1]at clojure.lang.AFn.applyToHelper(AFn.java:152)[clojure-1.7.0.jar:?]位于 clojure.lang.AFn.applyTo(AFn.java:144)[clojure-1.7.0.jar:?]位于 org.apache.storm.daemon.supervisor.main(未知源) [storm-core-1.0.1.jar:1.0.1]

  • 无密码SSH已经是默认设置,您必须使用密码专门启用SSH登录(这样做不是一个好主意,因为它不如使用密钥对安全,我认为这就是您所说的“无密码SSH登录”)
  • 创建EMR群集时,可以选择指定要使用的SSH密钥的名称(在已上载公钥或已使用AWS控制台/CLI为您创建密钥对之后),然后可以使用私钥(通常是.pem文件)SSH到EMR群集的主实例

    有关更多信息,请参见以下页面:

  • 很难判断问题出在哪里,因为您没有提供太多的信息,但听起来您可能以“ec2用户”的身份使用SSH连接到集群。当使用EMR时,您应该以“hadoop”用户的身份SSH到集群。如果这不能解决您的问题,请更新问题,并提供有关您所做工作的更多详细信息

  • 我已经更新了我的问题。也许你可以给我一些建议。谢谢你的帮助。你用什么用户运行这个应用程序?如果您不知道,您使用什么命令SSH到集群?另外,您使用什么命令来运行应用程序。最后,Storm on Thread并不是EMR官方支持的东西,那么您按照什么说明安装它呢?我已经用默认用户hadoop运行了这个应用程序。我使用SSH连接主节点。在EMR上,我像在本地hadoop集群上一样部署这个应用程序。我按照yahoo提供文档部署应用程序。我将storm项目放入HDFS中,并在主节点上安装storm Thread和storm。风暴的光环可以在纱线容器中启动,但主管无法启动。纱线容器初始化时出错。