Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/5.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
如何在spark中运行纯pandas代码并查看spark webUI中的活动?_Pandas_Apache Spark_Pyspark - Fatal编程技术网

如何在spark中运行纯pandas代码并查看spark webUI中的活动?

如何在spark中运行纯pandas代码并查看spark webUI中的活动?,pandas,apache-spark,pyspark,Pandas,Apache Spark,Pyspark,有人知道如何在spark单机集群机(windows)上运行pandas程序吗?使用pycharm和pandas开发的程序 这里的问题是我能够使用spark submit--master从命令提示符运行spark://sparkcas1:7077 project.py并获得结果。但是我没有看到@workers的活动(状态),也没有从spark web UI::7077中看到正在运行的应用程序状态和已完成的应用程序状态 在pandas程序中,我只包含了一条来自pyspark import Spark

有人知道如何在spark单机集群机(windows)上运行pandas程序吗?使用pycharm和pandas开发的程序

这里的问题是我能够使用spark submit--master从命令提示符运行spark://sparkcas1:7077 project.py并获得结果。但是我没有看到@workers的活动(状态),也没有从spark web UI::7077中看到正在运行的应用程序状态和已完成的应用程序状态 在pandas程序中,我只包含了一条来自pyspark import SparkContext的语句

import pandas as pd
from pyspark import SparkContext
# reading csv file from url
workbook_loc = "c:\\2020\Book1.xlsx"
df = pd.read_excel(workbook_loc, sheet_name='Sheet1')
# converting to dict
print(df)

有什么问题吗?

熊猫代码只在驱动程序上运行,没有工作人员参与。因此在spark中使用熊猫代码没有意义


如果您使用的是spark 3.0,您可以通过将spark df转换为考拉来运行分发的pandas代码

我确实改变了问题..知道如何解决这个问题..从pyspark导入pandas作为pd导入SparkContext从databricks导入pyarrow导入考拉作为ks导入时间工作簿\u loc=“c:\\2020\Book1.xlsx”df=pd.read\u excel(工作簿位置,工作表名称='Sheet1')kdf=ks。从熊猫(df)打印(kdf)从上面我作为spark submit执行的命令--master local hello.py,给出了以下错误ModuleNotFoundError:没有名为'databricks'的模块,pycharm工作正常。您似乎有冲突的env?冲突的env?冲突的env?,您认为有任何版本问题吗?在从命令提示符安装考拉后,我可以运行考拉代码