Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/5.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache spark 无法将数据帧另存为配置单元表,引发“未找到文件”异常_Apache Spark_Hive_Pyspark_Pyspark Sql - Fatal编程技术网

Apache spark 无法将数据帧另存为配置单元表,引发“未找到文件”异常

Apache spark 无法将数据帧另存为配置单元表,引发“未找到文件”异常,apache-spark,hive,pyspark,pyspark-sql,Apache Spark,Hive,Pyspark,Pyspark Sql,当我试图在pyspark中将数据帧保存为配置单元表时 df_writer.saveAsTable('hive_table', format='parquet', mode='overwrite') 我遇到以下错误: 原因:org.apache.hadoop.mapred.InvalidInputException:输入路径 不存在: hdfs://hostname:8020/apps/hive/warehouse/testdb.db/hive_table 在 org.apache.ha

当我试图在pyspark中将数据帧保存为配置单元表时

df_writer.saveAsTable('hive_table', format='parquet', mode='overwrite')
我遇到以下错误:

原因:org.apache.hadoop.mapred.InvalidInputException:输入路径 不存在: hdfs://hostname:8020/apps/hive/warehouse/testdb.db/hive_table 在 org.apache.hadoop.mapred.FileInputFormat.singleThreadedListStatus(FileInputFormat.java:287) 在 org.apache.hadoop.mapred.FileInputFormat.listStatus(FileInputFormat.java:229)

我有路走到'hdfs://hostname:8020/apps/hive/warehouse/testdb.db/"


请提供您的输入

尝试使用DataFrameWriter作为

df.write.mode(SaveMode.Append).insertInto(s"${dbName}.${t.table}")