Hudi Pyspark应用程序示例

Hudi Pyspark应用程序示例,pyspark,apache-hudi,Pyspark,Apache Hudi,需要帮助在Pycharm或任何IDE上使用Pyspark设置Hudi。我想开发一个样例Hudi Pyspark应用程序,而不是在Pyspark Shell中执行它。当然。你面临的问题是什么?Hudi只是一个Spark扩展。@JacekLaskowski我只想知道两件事:1)如何设置pycharm以使用运行配置中包含的外部JAR运行Spark submit。2) 在Spark中是否有一种方法可以将外部JAR添加到Spark类路径,而无需在Spark submit中指定它。因此,本质上我希望在启动S

需要帮助在Pycharm或任何IDE上使用Pyspark设置Hudi。我想开发一个样例Hudi Pyspark应用程序,而不是在Pyspark Shell中执行它。

当然。你面临的问题是什么?Hudi只是一个Spark扩展。@JacekLaskowski我只想知道两件事:1)如何设置pycharm以使用运行配置中包含的外部JAR运行Spark submit。2) 在Spark中是否有一种方法可以将外部JAR添加到Spark类路径,而无需在Spark submit中指定它。因此,本质上我希望在启动Spark会话时JAR可用,而不是在Spark Submit中指定它。如果是,那么您能指出默认位置在哪里吗?