Sql 如何在Spark Scala中将配置单元表的表统计信息放入数据帧
我正在Spark scala上做一个项目 我可以将配置单元表的表统计信息放入数据框中进行进一步计算吗 我可以使用 “显示表格统计信息表格名称” 但是我可以把这些信息放到数据框里吗。Sql 如何在Spark Scala中将配置单元表的表统计信息放入数据帧,sql,scala,apache-spark,hive,apache-spark-sql,Sql,Scala,Apache Spark,Hive,Apache Spark Sql,我正在Spark scala上做一个项目 我可以将配置单元表的表统计信息放入数据框中进行进一步计算吗 我可以使用 “显示表格统计信息表格名称” 但是我可以把这些信息放到数据框里吗。 谢谢我想这就足够了 val df = spark.sql("show table stats table_name") 但是,我的表统计测试不起作用。我在测试中使用了分析和描述扩展 spark.sql("analyze table table_name compute statistics") val df = s
谢谢我想这就足够了
val df = spark.sql("show table stats table_name")
但是,我的表统计测试不起作用。我在测试中使用了分析
和描述扩展
spark.sql("analyze table table_name compute statistics")
val df = spark.sql("describe extended table_name")
df.show(false)
这就是结果。我认为这就足够了
val df = spark.sql("show table stats table_name")
但是,我的表统计测试不起作用。我在测试中使用了分析
和描述扩展
spark.sql("analyze table table_name compute statistics")
val df = spark.sql("describe extended table_name")
df.show(false)
这将给出一个结果。在spark2中,您可以使用以下任一方法将配置单元表数据导入数据帧: 方法1:
val df = spark.sql("select * from databasename.tablename")
方法2:
val df = spark.read.table("databasename.tablename")
在spark2中,您可以使用以下任一方法将配置单元表数据导入数据帧: 方法1:
val df = spark.sql("select * from databasename.tablename")
方法2:
val df = spark.read.table("databasename.tablename")