Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/6.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache spark pyspark配置单元表未读取配置单元表的所有行_Apache Spark_Pyspark_Hive_Apache Spark Sql - Fatal编程技术网

Apache spark pyspark配置单元表未读取配置单元表的所有行

Apache spark pyspark配置单元表未读取配置单元表的所有行,apache-spark,pyspark,hive,apache-spark-sql,Apache Spark,Pyspark,Hive,Apache Spark Sql,我正在pyspark中使用hive llap()读取hive内部表,如下所示: df = hive.table(<tableName>) 我刚刚得到750万作为计数,这是错误的您可能需要刷新spark metastore,它没有使用hive metastore,并且统计数据可能已经过时 您可以按如下方式刷新pyspark元存储: spark.sql("REFRESH TABLE <TABLE_NAME>") spark.sql(“刷新表”) 答案有

我正在pyspark中使用hive llap()读取hive内部表,如下所示:

df = hive.table(<tableName>)

我刚刚得到750万作为计数,这是错误的

您可能需要刷新spark metastore,它没有使用hive metastore,并且统计数据可能已经过时

您可以按如下方式刷新pyspark元存储:

spark.sql("REFRESH TABLE <TABLE_NAME>")
spark.sql(“刷新表”)

答案有用吗?
spark.sql("REFRESH TABLE <TABLE_NAME>")