Apache spark ActorNot在windows 7上运行Spark 1.3.1时发现异常

Apache spark ActorNot在windows 7上运行Spark 1.3.1时发现异常,apache-spark,akka,Apache Spark,Akka,我们正处于一个路障,试图理解为什么Spark 1.3.1不适用于我的一位同事的Windows 7笔记本电脑。 我有几乎相同的设置,一切对我来说都很好 我搜索了错误消息,但仍然没有找到解决方案 以下是异常消息(在运行为Hadoop 2.4预构建的spark 1.3.1香草安装之后) akka.actor.ActorInitializationException:创建过程中的异常 在akka.actor.ActorInitializationException$.apply处(actor.scala

我们正处于一个路障,试图理解为什么Spark 1.3.1不适用于我的一位同事的Windows 7笔记本电脑。 我有几乎相同的设置,一切对我来说都很好

我搜索了错误消息,但仍然没有找到解决方案

以下是异常消息(在运行为Hadoop 2.4预构建的spark 1.3.1香草安装之后)

akka.actor.ActorInitializationException:创建过程中的异常
在akka.actor.ActorInitializationException$.apply处(actor.scala:164)
在akka.actor.ActorCell.create(ActorCell.scala:596)
在akka.actor.ActorCell.invokeAll$1(ActorCell.scala:456)
在akka.actor.ActorCell.systemInvoke(ActorCell.scala:478)
在akka.dispatch.Mailbox.processAllSystemMessages上(Mailbox.scala:263)
在akka.dispatch.Mailbox.run(Mailbox.scala:219)
在akka.dispatch.ForkJoinExecutorConfigurator$AkkaForkJoinTask.exec(AbstractDispatcher.scala:393)
位于scala.concurrent.forkjoin.ForkJoinTask.doExec(ForkJoinTask.java:260)
位于scala.concurrent.forkjoin.ForkJoinPool$WorkQueue.runTask(ForkJoinPool.java:1339)
位于scala.concurrent.forkjoin.ForkJoinPool.runWorker(ForkJoinPool.java:1979)
在scala.concurrent.forkjoin.ForkJoinWorkerThread.run(ForkJoinWorkerThread.java:107)中
原因:akka.actor.ActorNotFound:未为:ActorSelection[锚]找到actor(akka://sparkDriver/deadLetters),路径(/)
]
在akka.actor.ActorSelection$$anonfun$resolveOne$1.apply(ActorSelection.scala:65)
在akka.actor.ActorSelection$$anonfun$resolveOne$1.apply(ActorSelection.scala:63)
在scala.concurrent.impl.CallbackRunnable.run(Promise.scala:32)
在akka.dispatch.BatchingExecutor$Batch$$anonfun$run$1.processBatch$1(BatchingExecutor.scala:67)
在akka.dispatch.BatchingExecutor$Batch$$anonfun$run$1.apply$mcV$sp(BatchingExecutor.scala:82)
在akka.dispatch.BatchingExecutor$Batch$$anonfun$run$1.apply(BatchingExecutor.scala:59)
在akka.dispatch.BatchingExecutor$Batch$$anonfun$run$1.apply(BatchingExecutor.scala:59)
位于scala.concurrent.BlockContext$.withBlockContext(BlockContext.scala:72)
在akka.dispatch.BatchingExecutor$Batch.run(BatchingExecutor.scala:58)
在akka.dispatch.ExecutionContext$samethreadeExecutionContext$.unbatchedeExecute(Future.scala:74)
在akka.dispatch.BatchingExecutor$class.execute(BatchingExecutor.scala:110)
在akka.dispatch.ExecutionContext$samethreadeExecutionContext$.execute(Future.scala:73)
位于scala.concurrent.impl.CallbackRunnable.executeWithValue(Promise.scala:40)
在scala.concurrent.impl.Promise$DefaultPromise.scala$concurrent$impl$Promise$DefaultPromise$$dispatchOrAddCallb
确认(Promise.scala:280)
在scala.concurrent.impl.Promise$DefaultPromise.onComplete(Promise.scala:270)
在akka.actor.ActorSelection.resolveOne(ActorSelection.scala:63)
在akka.actor.ActorSelection.resolveOne(ActorSelection.scala:80)
位于org.apache.spark.util.AkkaUtils$.makeDriverRef(AkkaUtils.scala:221)
在org.apache.spark.executor.executor.startDriverHeartbeater上(executor.scala:393)
在org.apache.spark.executor.executor.(executor.scala:119)
位于org.apache.spark.scheduler.local.LocalActor。(LocalBackend.scala:58)
位于org.apache.spark.scheduler.local.LocalBackend$$anonfun$start$1.apply(LocalBackend.scala:107)
位于org.apache.spark.scheduler.local.LocalBackend$$anonfun$start$1.apply(LocalBackend.scala:107)
在akka.actor.TypedCreatorFunctionConsumer.product(Props.scala:343)
在阿卡。演员。道具。新演员(道具。斯卡拉:252)
在akka.actor.ActorCell.newActor(ActorCell.scala:552)
在akka.actor.ActorCell.create(ActorCell.scala:578)
... 9更多
相关问题:

在网上搜索这个问题并没有得到很多结果,这似乎表明这是一个非常罕见和具体的问题:

  • 我看到了上面提到的错误,但对于Linux,而不是windows:

  • 这一条似乎也没有提供任何解决方案:

我的假设是,这与一些解决/IP冲突等有关,但我不确定

更多详细信息

  • JDK 1.7 64位、Windows 7 64位、Spark 1.3.1为Hadoop 2.4预构建
  • 我们排除了所有与防火墙相关的问题,我们查看了所有阻塞的流量,但它并不存在
  • 我们尝试了“以管理员身份运行”,但没有成功
  • 我们尝试了Spark submit和Spark shell,最直接的Spark“Hellow World”没有起作用
  • 我们确实在localhost:4040上获得了UI,作业被标记为已启动,但一直在等待(例如,甚至
    sc.parallelize(List(1,2,3)).count()
    从未完成
  • 在日志中未找到其他错误
  • 我确实注意到了我的系统和我朋友的系统之间的一个区别:当我ping localhost时,我得到127.0.0.1,当他这样做时,他得到::1不确定是否相关,但我看到了spark与ipv6有问题的问题,并且看到它仅在1.4中得到解决,这是否相关
我确信这是一个与网络/安全/权限相关的问题,但我们似乎无法确定它


下一步该怎么办?

升级到Spark 1.4.0似乎已经解决了这个问题


它可能与Spark 1.4有关,但无法确定。

顺便说一句,您使用的是什么scala版本?我使用的是2.11。我想知道是否是它导致了这个问题。//@David-2.10,但好消息是,我们升级到Spark 1.4,问题得到了解决!升级到Spark 1.4,降级到scala 2.10,现在一切正常。谢谢!
akka.actor.ActorInitializationException: exception during creation
        at akka.actor.ActorInitializationException$.apply(Actor.scala:164)
        at akka.actor.ActorCell.create(ActorCell.scala:596)
        at akka.actor.ActorCell.invokeAll$1(ActorCell.scala:456)
        at akka.actor.ActorCell.systemInvoke(ActorCell.scala:478)
        at akka.dispatch.Mailbox.processAllSystemMessages(Mailbox.scala:263)
        at akka.dispatch.Mailbox.run(Mailbox.scala:219)
        at akka.dispatch.ForkJoinExecutorConfigurator$AkkaForkJoinTask.exec(AbstractDispatcher.scala:393)
        at scala.concurrent.forkjoin.ForkJoinTask.doExec(ForkJoinTask.java:260)
        at scala.concurrent.forkjoin.ForkJoinPool$WorkQueue.runTask(ForkJoinPool.java:1339)
        at scala.concurrent.forkjoin.ForkJoinPool.runWorker(ForkJoinPool.java:1979)
        at scala.concurrent.forkjoin.ForkJoinWorkerThread.run(ForkJoinWorkerThread.java:107)
Caused by: akka.actor.ActorNotFound: Actor not found for: ActorSelection[Anchor(akka://sparkDriver/deadLetters), Path(/)
]
        at akka.actor.ActorSelection$$anonfun$resolveOne$1.apply(ActorSelection.scala:65)
        at akka.actor.ActorSelection$$anonfun$resolveOne$1.apply(ActorSelection.scala:63)
        at scala.concurrent.impl.CallbackRunnable.run(Promise.scala:32)
        at akka.dispatch.BatchingExecutor$Batch$$anonfun$run$1.processBatch$1(BatchingExecutor.scala:67)
        at akka.dispatch.BatchingExecutor$Batch$$anonfun$run$1.apply$mcV$sp(BatchingExecutor.scala:82)
        at akka.dispatch.BatchingExecutor$Batch$$anonfun$run$1.apply(BatchingExecutor.scala:59)
        at akka.dispatch.BatchingExecutor$Batch$$anonfun$run$1.apply(BatchingExecutor.scala:59)
        at scala.concurrent.BlockContext$.withBlockContext(BlockContext.scala:72)
        at akka.dispatch.BatchingExecutor$Batch.run(BatchingExecutor.scala:58)
        at akka.dispatch.ExecutionContexts$sameThreadExecutionContext$.unbatchedExecute(Future.scala:74)
        at akka.dispatch.BatchingExecutor$class.execute(BatchingExecutor.scala:110)
        at akka.dispatch.ExecutionContexts$sameThreadExecutionContext$.execute(Future.scala:73)
        at scala.concurrent.impl.CallbackRunnable.executeWithValue(Promise.scala:40)
        at scala.concurrent.impl.Promise$DefaultPromise.scala$concurrent$impl$Promise$DefaultPromise$$dispatchOrAddCallb
ack(Promise.scala:280)
        at scala.concurrent.impl.Promise$DefaultPromise.onComplete(Promise.scala:270)
        at akka.actor.ActorSelection.resolveOne(ActorSelection.scala:63)
        at akka.actor.ActorSelection.resolveOne(ActorSelection.scala:80)
        at org.apache.spark.util.AkkaUtils$.makeDriverRef(AkkaUtils.scala:221)
        at org.apache.spark.executor.Executor.startDriverHeartbeater(Executor.scala:393)
        at org.apache.spark.executor.Executor.<init>(Executor.scala:119)
        at org.apache.spark.scheduler.local.LocalActor.<init>(LocalBackend.scala:58)
        at org.apache.spark.scheduler.local.LocalBackend$$anonfun$start$1.apply(LocalBackend.scala:107)
        at org.apache.spark.scheduler.local.LocalBackend$$anonfun$start$1.apply(LocalBackend.scala:107)
        at akka.actor.TypedCreatorFunctionConsumer.produce(Props.scala:343)
        at akka.actor.Props.newActor(Props.scala:252)
        at akka.actor.ActorCell.newActor(ActorCell.scala:552)
        at akka.actor.ActorCell.create(ActorCell.scala:578)
        ... 9 more