使用pysparkling在databricks中创建上下文时出错

使用pysparkling在databricks中创建上下文时出错,pyspark,h2o,sparkling-water,Pyspark,H2o,Sparkling Water,我在databricks上使用spark版本2.4.4和h2o-pysparkling-2.4,并运行以下代码 h2oConf = H2OConf().set('spark.sql.autoBroadcastJoinThreshold', '-1') hc = H2OContext.getOrCreate(conf=h2oConf) 有时它运行良好,但有时它给我以下错误 Py4JJavaError: An error occurred while calling o2542.getOrCrea

我在databricks上使用spark版本2.4.4和h2o-pysparkling-2.4,并运行以下代码

h2oConf = H2OConf().set('spark.sql.autoBroadcastJoinThreshold', '-1')
hc = H2OContext.getOrCreate(conf=h2oConf)
有时它运行良好,但有时它给我以下错误

Py4JJavaError: An error occurred while calling o2542.getOrCreate.
: org.apache.spark.SparkException: Exception thrown in awaitResult:
请告诉我解决此问题的方法

  • 确保未选中“启用自动缩放”。您需要固定数量的节点才能使用起泡水
  • 尝试使用非ML运行时
  • 另外,检查您是否有任何其他可能与Pybarkling冲突的软件包
您可以遵循标准设置