Java Elasticsearch Hadoop 7.10.0是否与Spark 3.0.1兼容
我试图使用Elasticsearch与Spark,但我得到了一些错误 我使用Spark 3.0.1、Elasticsearch 7.10.0和Elasticsearch hadoop 7.1.0 scala版本2.12 有人能帮我吗Java Elasticsearch Hadoop 7.10.0是否与Spark 3.0.1兼容,java,apache-spark,
elasticsearch,Java,Apache Spark,
elasticsearch,我试图使用Elasticsearch与Spark,但我得到了一些错误 我使用Spark 3.0.1、Elasticsearch 7.10.0和Elasticsearch hadoop 7.1.0 scala版本2.12 有人能帮我吗 Exception in thread "main" java.lang.NoClassDefFoundError: scala/Product$class at org.elasticsearch.spark.sql.Elasticse
Exception in thread "main" java.lang.NoClassDefFoundError: scala/Product$class
at org.elasticsearch.spark.sql.ElasticsearchRelation.<init>(DefaultSource.scala:215)
at org.elasticsearch.spark.sql.DefaultSource.createRelation(DefaultSource.scala:93)
at org.apache.spark.sql.execution.datasources.DataSource.resolveRelation(DataSource.scala:344)
at org.apache.spark.sql.DataFrameReader.loadV1Source(DataFrameReader.scala:297)
at org.apache.spark.sql.DataFrameReader.$anonfun$load$2(DataFrameReader.scala:286)
at scala.Option.getOrElse(Option.scala:189)
at org.apache.spark.sql.DataFrameReader.load(DataFrameReader.scala:286)
at org.apache.spark.sql.DataFrameReader.load(DataFrameReader.scala:232)
at net.jgp.books.spark.ch08.ElasticsearchToDatasetApp.start(ElasticsearchToDatasetApp.java:42)
at net.jgp.books.spark.ch08.ElasticsearchToDatasetApp.main(ElasticsearchToDatasetApp.java:18)
Caused by: java.lang.ClassNotFoundException: scala.Product$class
at java.base/jdk.internal.loader.BuiltinClassLoader.loadClass(BuiltinClassLoader.java:581)
at java.base/jdk.internal.loader.ClassLoaders$AppClassLoader.loadClass(ClassLoaders.java:178)
at java.base/java.lang.ClassLoader.loadClass(ClassLoader.java:521)
... 10 more```
线程“main”java.lang.NoClassDefFoundError中出现异常:scala/Product$class
位于org.elasticsearch.spark.sql.ElasticsearchRelation.(DefaultSource.scala:215)
位于org.elasticsearch.spark.sql.DefaultSource.createRelation(DefaultSource.scala:93)
位于org.apache.spark.sql.execution.datasources.DataSource.resolveRelation(DataSource.scala:344)
位于org.apache.spark.sql.DataFrameReader.loadV1Source(DataFrameReader.scala:297)
位于org.apache.spark.sql.DataFrameReader.$anonfun$load$2(DataFrameReader.scala:286)
位于scala.Option.getOrElse(Option.scala:189)
位于org.apache.spark.sql.DataFrameReader.load(DataFrameReader.scala:286)
位于org.apache.spark.sql.DataFrameReader.load(DataFrameReader.scala:232)
net.jgp.books.spark.ch08.ElasticsearchToDatasetApp.start(ElasticsearchToDatasetApp.java:42)
net.jgp.books.spark.ch08.ElasticsearchToDatasetApp.main(ElasticsearchToDatasetApp.java:18)
原因:java.lang.ClassNotFoundException:scala.Product$class
位于java.base/jdk.internal.loader.BuiltinClassLoader.loadClass(BuiltinClassLoader.java:581)
位于java.base/jdk.internal.loader.ClassLoaders$AppClassLoader.loadClass(ClassLoaders.java:178)
位于java.base/java.lang.ClassLoader.loadClass(ClassLoader.java:521)
... 10多```
错误消息看起来不完整-您可以发布完整的回溯吗?看起来elasticsearch hadoop 7.1.0使用的是scala 2.11版,而spark使用的是scala 2.12版。即使我从elasticsearch hadoop 7.1.0 jar中排除了所有依赖性。我仍然遇到问题。错误消息看起来不完整-您可以发布完整的回溯吗?看起来elasticsearch hadoop 7.1.0使用的是scala 2.11版,而spark使用的是scala 2.12版。即使我从elasticsearch hadoop 7.1.0 jar中排除了所有依赖性。我还是有问题。