Warning: file_get_contents(/data/phpspider/zhask/data//catemap/8/swift/19.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache spark 在Windows上使用pyspark不工作-py4j_Apache Spark_Pyspark_Apache Zeppelin_Py4j - Fatal编程技术网

Apache spark 在Windows上使用pyspark不工作-py4j

Apache spark 在Windows上使用pyspark不工作-py4j,apache-spark,pyspark,apache-zeppelin,py4j,Apache Spark,Pyspark,Apache Zeppelin,Py4j,我使用和在Windows上安装了齐柏林飞艇。 我还安装了Java8以避免出现问题 我现在可以启动齐柏林飞艇服务器了,我正在尝试运行以下代码- %pyspark a=5*4 print("value = %i" % (a)) sc.version 我得到了这个错误,与py4j有关。我以前在这个库中遇到过其他问题(与相同),为了避免这些问题,我将齐柏林飞艇中的py4j库和我计算机上的Spark库替换为最新版本-py4j 0.10.7 这就是我得到的错误- Traceback (most recen

我使用和在Windows上安装了齐柏林飞艇。 我还安装了Java8以避免出现问题

我现在可以启动齐柏林飞艇服务器了,我正在尝试运行以下代码-

%pyspark
a=5*4
print("value = %i" % (a))
sc.version
我得到了这个错误,与
py4j
有关。我以前在这个库中遇到过其他问题(与相同),为了避免这些问题,我将齐柏林飞艇中的
py4j
库和我计算机上的Spark库替换为最新版本-
py4j 0.10.7

这就是我得到的错误-

Traceback (most recent call last):
  File "C:\Users\SHIRM~1.ARG\AppData\Local\Temp\zeppelin_pyspark-1240802621138907911.py", line 309, in <module>
    sc = _zsc_ = SparkContext(jsc=jsc, gateway=gateway, conf=conf)
  File "C:\Users\SHIRM.ARGUS\spark-2.3.2\spark-2.3.2-bin-hadoop2.7\python\pyspark\context.py", line 118, in __init__
    conf, jsc, profiler_cls)
  File "C:\Users\SHIRM.ARGUS\spark-2.3.2\spark-2.3.2-bin-hadoop2.7\python\pyspark\context.py", line 189, in _do_init
    self._javaAccumulator = self._jvm.PythonAccumulatorV2(host, port, auth_token)
  File "C:\Users\SHIRM.ARGUS\Documents\zeppelin-0.8.0-bin-all\interpreter\spark\pyspark\py4j-0.10.7-src.zip\py4j\java_gateway.py", line 1525, in __call__
  File "C:\Users\SHIRM.ARGUS\Documents\zeppelin-0.8.0-bin-all\interpreter\spark\pyspark\py4j-0.10.7-src.zip\py4j\protocol.py", line 332, in get_return_value
py4j.protocol.Py4JError: An error occurred while calling None.org.apache.spark.api.python.PythonAccumulatorV2. Trace:
回溯(最近一次呼叫最后一次):
文件“C:\Users\SHIRM~1.ARG\AppData\Local\Temp\zeppelin_pyspark-1240802621138907911.py”,第309行,在
sc=_zsc\=SparkContext(jsc=jsc,gateway=gateway,conf=conf)
文件“C:\Users\SHIRM.ARGUS\spark-2.3.2\spark-2.3.2-bin-hadoop2.7\python\pyspark\context.py”,第118行,在\uu init中__
形态、jsc、探查器(cls)
文件“C:\Users\SHIRM.ARGUS\spark-2.3.2\spark-2.3.2-bin-hadoop2.7\python\pyspark\context.py”,第189行,在\u do\u init中
self.\u javaAccumerator=self.\u jvm.pythonacumeratorv2(主机、端口、身份验证令牌)
文件“C:\Users\SHIRM.ARGUS\Documents\zeppelin-0.8.0-bin-all\explorer\spark\pyspark\py4j-0.10.7-src.zip\py4j\java_gateway.py”,第1525行,在u call中__
文件“C:\Users\SHIRM.ARGUS\Documents\zeppelin-0.8.0-bin-all\explorer\spark\pyspark\py4j-0.10.7-src.zip\py4j\protocol.py”,第332行,在get\u返回值中
py4j.protocol.Py4JError:调用None.org.apache.spark.api.python.pythonacumeratorv2时出错。跟踪:
我在谷歌上搜索了一下,但找不到发生过这件事的人

有人知道我该如何解决这个问题吗


谢谢

我觉得您已经安装了Java 9或10。卸载这些版本中的任何一个,然后从此处安装Java 8的新副本:

在hadoop\u env.cmd中设置JAVA\u HOME(使用任何文本编辑器打开)。


注意:Java 8或7是使用和卸载任何现有Java版本的稳定版本。确保您在JAVA_HOME中添加了JDK(而不是JRE)。

我觉得您已经安装了JAVA 9或10。卸载这些版本中的任何一个,然后从此处安装Java 8的新副本:

在hadoop\u env.cmd中设置JAVA\u HOME(使用任何文本编辑器打开)。


注意:Java 8或7是使用和卸载任何现有Java版本的稳定版本。确保在JAVA_HOME中添加JDK(而不是JRE)。

我今天遇到了同样的问题,我通过在系统环境中添加
PYTHONPATH
解决了这个问题,如:

%SPARK\u HOME%\python\lib\py4j;%SPARK\u HOME%\python\lib\pyspark
我今天遇到了同样的问题,我通过在系统环境中添加
PYTHONPATH
来修复它,如:

%SPARK\u HOME%\python\lib\py4j;%SPARK\u HOME%\python\lib\pyspark

我已经安装了这个确切的版本,并将JAVA\u HOME环境更改为
C:\Program Files\JAVA\jre1.8.0\u 181
,但我也安装了JAVA 10。它应该被移除吗?为什么?为什么要使用多个版本的Java?您需要将路径设置为JDK而不是JRE。将其卸载并更改为JDK,但它仍然不起作用:(另一件事-启动服务器时,日志在
server.java[doStart]:327)-jetty-9.2.15.v20160210
上卡住了很长时间。也许有什么关系?。。。如果没有,还有其他想法吗?谢谢你为什么不设置Hortonworks沙盒?它也有齐柏林飞艇。你有什么版本的齐柏林飞艇?我看到它是0.6.2,我已经安装了这个确切的版本,并将JAVA_HOME environment更改为
C:\Program Files\JAVA\jre1.8.0_181
,但我也安装了JAVA 10。它应该被移除吗?为什么?为什么要使用多个版本的Java?您需要将路径设置为JDK而不是JRE。将其卸载并更改为JDK,但它仍然不起作用:(另一件事-启动服务器时,日志在
server.java[doStart]:327)-jetty-9.2.15.v20160210
上卡住了很长时间。也许有什么关系?。。。如果没有,还有其他想法吗?谢谢你为什么不设置Hortonworks沙盒?它也有齐柏林飞艇。你有什么版本的齐柏林飞艇?我看是0.6.2