Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/spring/13.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181

Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/5.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Spring spark submit,带“的纱线;“集群”;部署模式不工作_Spring_Apache Spark_Spark Streaming_Yarn_Google Cloud Dataproc - Fatal编程技术网

Spring spark submit,带“的纱线;“集群”;部署模式不工作

Spring spark submit,带“的纱线;“集群”;部署模式不工作,spring,apache-spark,spark-streaming,yarn,google-cloud-dataproc,Spring,Apache Spark,Spark Streaming,Yarn,Google Cloud Dataproc,我正在尝试提交spark流媒体应用程序,其中主应用程序是纱线,部署模式是集群。 初始错误消息无法创建JavaSparkContext: WARN org.springframework.context.annotation.AnnotationConfigApplicationContext:在上下文初始化过程中遇到异常-取消刷新尝试:org.springframework.beans.factory.unsatifiedPendencyException:创建名为“sparkGracefull

我正在尝试提交spark流媒体应用程序,其中主应用程序是纱线,部署模式是集群。 初始错误消息无法创建JavaSparkContext:

WARN org.springframework.context.annotation.AnnotationConfigApplicationContext:在上下文初始化过程中遇到异常-取消刷新尝试:org.springframework.beans.factory.unsatifiedPendencyException:创建名为“sparkGracefullTerminator”的bean时出错:通过字段“ssc”表示未满足的依赖关系;嵌套异常为org.springframework.beans.factory.BeanCreationException:创建名为“streamingContext”的bean时出错,该名称在pokerStreaming.conf.MainConfig中定义:通过工厂方法实例化bean失败;嵌套异常为org.springframework.beans.beanInstationException:未能实例化[org.apache.spark.streaming.api.java.JavaStreamingContext]:工厂方法“streamingContext”引发异常;嵌套异常为java.lang.InterruptedException:睡眠中断

然后,我看到了另一个关于连接到驱动程序的错误:

错误org.apache.spark.deploy.warn.ApplicationMaster:无法连接到XX.XXX.X.X:54035处的驱动程序,正在重试

所以我想真正的问题是与司机的联系

不知道如何进一步调查。 如果进程在GoogleDataProc上运行,那么节点之间不应该相互连接吗

谢谢,
Nir

能否检查hadoop-env.sh ot hadoop-conf.xml文件中是否正确指定了纱线资源管理器url我应该查找纱线资源管理器地址吗?根据这一点:它应该在thread-default.xml中,但我没有在那里找到它。我确实在Thread-site.xml下找到了Thread.resourcemanager.hostname(地址基于上面hadoop链接中的主机名)。您能检查一下hadoop-env.sh ot hadoop-conf.xml文件中是否正确指定了Thread.resourcemanager.address吗?根据这一点:它应该在thread-default.xml中,但我没有在那里找到它。我确实在Thread-site.xml下找到了Thread.resourcemanager.hostname(根据上面的hadoop链接,地址基于主机名)。