Apache spark 用户类引发异常:java.util.NoSuchElementException:spark.driver.memory

Apache spark 用户类引发异常:java.util.NoSuchElementException:spark.driver.memory,apache-spark,Apache Spark,我在运行Intellij应用程序时遇到以下错误。有谁知道为什么会失败 用户类引发异常:java.util.NoTouchElementException:spark.driver.memory此错误由以下方法引发: /** Get a parameter; throws a NoSuchElementException if it's not set */ def get(key: String): String = { getOption(key).getOrElse(throw new

我在运行Intellij应用程序时遇到以下错误。有谁知道为什么会失败


用户类引发异常:java.util.NoTouchElementException:spark.driver.memory

此错误由以下方法引发:

/** Get a parameter; throws a NoSuchElementException if it's not set */
def get(key: String): String = {
  getOption(key).getOrElse(throw new NoSuchElementException(key))
}
// SparkConf.scala

因此,您可能没有明确指定
spark.driver.memory
配置条目。你能告诉我你是如何提交这份工作的吗?将哪些选项传递给
spark submit
命令?

如果没有您使用的代码,很难说,但您的应用程序可能在某些地方查找
spark.driver.memory
键,但找不到它。但请提供更多的上下文。此异常是因为我需要在Apache Spark上更改代码或任何配置。我在代码中使用此代码来获取下面的驱动程序内存,如以下驱动程序内存:“+sparkSession.sparkContext.getConf.get”(“Spark.driver.memory”)请共享完整的堆栈跟踪和相关代码。我相信当您通过intellij运行它时,它将生成一个不同的JVM,它的内存参数将由
-xmX
属性控制,而不是
spark.driver.memory
-driver memory