Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/6.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Scala Spark是否从InputStream创建数据帧?_Scala_Apache Spark_Databricks - Fatal编程技术网

Scala Spark是否从InputStream创建数据帧?

Scala Spark是否从InputStream创建数据帧?,scala,apache-spark,databricks,Scala,Apache Spark,Databricks,我希望避免将整个流写入文件,然后将其加载到dataframe。正确的方法是什么?您可以检查,这说明您的问题可以通过使用SparkStreaming的SparkContext创建SparkSession的singleton实例来解决 您应该通过上面的链接有更好的想法,dataframes是从streaming rddspark streaming创建的?@reactormank,此API在hdfs中获取路径,而不是流。您的InputStream是什么?使用REST API从远程服务器读取的流。

我希望避免将整个流写入文件,然后将其加载到dataframe。正确的方法是什么?

您可以检查,这说明您的问题可以通过使用
SparkStreaming
SparkContext
创建
SparkSession
singleton实例来解决


您应该通过上面的链接有更好的想法,
dataframes
是从
streaming rdd

spark streaming创建的?@reactormank,此API在hdfs中获取路径,而不是流。您的
InputStream
是什么?使用REST API从远程服务器读取的流。