Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/5.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Java Spark提交属性文件_Java_Apache Spark - Fatal编程技术网

Java Spark提交属性文件

Java Spark提交属性文件,java,apache-spark,Java,Apache Spark,我尝试使用配置文件中指定的属性运行spark submit,但未成功 我可以使用以下方式提交作业: spark_home/spark-submit \ --class MyClass \ --master spark://my_master \ --files test.config \ --jars build/jars/MyProject.jar, build/jars/Config.jar 但当我将其复制到属性文件时: spark.class MyClass spark.master

我尝试使用配置文件中指定的属性运行spark submit,但未成功

我可以使用以下方式提交作业:

spark_home/spark-submit \
--class MyClass \
--master spark://my_master \
--files test.config \
--jars build/jars/MyProject.jar, build/jars/Config.jar
但当我将其复制到属性文件时:

spark.class   MyClass
spark.master  spark://my_master
spark.files   test.config
spark.jars    build/jars/MyProject.jar, build/jars/Config.jar
尝试将此文件与spark submit一起使用时,我遇到一个错误:java.lang.IllegalArgumentException:缺少应用程序资源

spark_home/spark-submit \
--properties-file  conf/properties.conf

我还需要提供其他论点吗?我以为我使用了相同的参数,但似乎我仍然缺少一个步骤。

正如Mark评论的那样,如果不指定--jars和--class选项,则必须包含一个参数,以便在包jar中使用spark submit

你应使用:

spark_home/spark-submit build/jars/MyProject.jar \
    --properties-file conf/properties.conf
--看起来您需要在命令行上指定应用程序jar。