Spring spark submit,带“的纱线;“集群”;部署模式不工作
我正在尝试提交spark流媒体应用程序,其中主应用程序是纱线,部署模式是集群。 初始错误消息无法创建JavaSparkContext: WARN org.springframework.context.annotation.AnnotationConfigApplicationContext:在上下文初始化过程中遇到异常-取消刷新尝试:org.springframework.beans.factory.unsatifiedPendencyException:创建名为“sparkGracefullTerminator”的bean时出错:通过字段“ssc”表示未满足的依赖关系;嵌套异常为org.springframework.beans.factory.BeanCreationException:创建名为“streamingContext”的bean时出错,该名称在pokerStreaming.conf.MainConfig中定义:通过工厂方法实例化bean失败;嵌套异常为org.springframework.beans.beanInstationException:未能实例化[org.apache.spark.streaming.api.java.JavaStreamingContext]:工厂方法“streamingContext”引发异常;嵌套异常为java.lang.InterruptedException:睡眠中断 然后,我看到了另一个关于连接到驱动程序的错误: 错误org.apache.spark.deploy.warn.ApplicationMaster:无法连接到XX.XXX.X.X:54035处的驱动程序,正在重试 所以我想真正的问题是与司机的联系 不知道如何进一步调查。 如果进程在GoogleDataProc上运行,那么节点之间不应该相互连接吗 谢谢,Spring spark submit,带“的纱线;“集群”;部署模式不工作,spring,apache-spark,spark-streaming,yarn,google-cloud-dataproc,Spring,Apache Spark,Spark Streaming,Yarn,Google Cloud Dataproc,我正在尝试提交spark流媒体应用程序,其中主应用程序是纱线,部署模式是集群。 初始错误消息无法创建JavaSparkContext: WARN org.springframework.context.annotation.AnnotationConfigApplicationContext:在上下文初始化过程中遇到异常-取消刷新尝试:org.springframework.beans.factory.unsatifiedPendencyException:创建名为“sparkGracefull
Nir能否检查hadoop-env.sh ot hadoop-conf.xml文件中是否正确指定了纱线资源管理器url我应该查找纱线资源管理器地址吗?根据这一点:它应该在thread-default.xml中,但我没有在那里找到它。我确实在Thread-site.xml下找到了Thread.resourcemanager.hostname(地址基于上面hadoop链接中的主机名)。您能检查一下hadoop-env.sh ot hadoop-conf.xml文件中是否正确指定了Thread.resourcemanager.address吗?根据这一点:它应该在thread-default.xml中,但我没有在那里找到它。我确实在Thread-site.xml下找到了Thread.resourcemanager.hostname(根据上面的hadoop链接,地址基于主机名)。