Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/5.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
在Livy PySpark的HDFS中存储Python包_Python_Apache Spark_Pyspark_Livy - Fatal编程技术网
Fatal编程技术网
  • python/
  • 在Livy PySpark的HDFS中存储Python包

在Livy PySpark的HDFS中存储Python包

python apache-spark pyspark

在Livy PySpark的HDFS中存储Python包,python,apache-spark,pyspark,livy,Python,Apache Spark,Pyspark,Livy,我通过Livy向集群提交PySpark作业。目前，所有DataNode上都安装了NumPy、Pandas、Keras等相关python包。我想知道是否所有这些包都可以集中存储在HDFS中，您如何配置Livy、PySpark从HDFS而不是从该数据节点读取这些包。您找到了问题的解决方案吗？

我通过Livy向集群提交PySpark作业。目前，所有DataNode上都安装了NumPy、Pandas、Keras等相关python包。我想知道是否所有这些包都可以集中存储在HDFS中，您如何配置Livy、PySpark从HDFS而不是从该数据节点读取这些包。

您找到了问题的解决方案吗？