Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/5.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache spark 创建spark会话后,是否可以更改spark.DynamicLocation.minExecutors?_Apache Spark_Pyspark - Fatal编程技术网

Apache spark 创建spark会话后,是否可以更改spark.DynamicLocation.minExecutors?

Apache spark 创建spark会话后,是否可以更改spark.DynamicLocation.minExecutors?,apache-spark,pyspark,Apache Spark,Pyspark,我是Apache Spark新手,我正在阅读有关为Spark会话设置不同配置的书籍。我的问题是,如果我们在构建Spark会话时设置executor内存,我们是否可以在创建会话后更改它,以防需要更多内存?除非重新启动SparkContext。到目前为止,我从来没有这样做过 纱线动态资源分配可以改变某些事情,但这超出了您的明确控制。我在某个地方读到,有些属性只能在创建spark会话后配置,有些属性也可以在创建spark会话之前配置。这对我来说是新的。通过conf有默认值和重写。

我是Apache Spark新手,我正在阅读有关为Spark会话设置不同配置的书籍。我的问题是,如果我们在构建Spark会话时设置executor内存,我们是否可以在创建会话后更改它,以防需要更多内存?

除非重新启动SparkContext。到目前为止,我从来没有这样做过


纱线动态资源分配可以改变某些事情,但这超出了您的明确控制。

我在某个地方读到,有些属性只能在创建spark会话后配置,有些属性也可以在创建spark会话之前配置。这对我来说是新的。通过conf有默认值和重写。