Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/5.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181

Warning: file_get_contents(/data/phpspider/zhask/data//catemap/0/backbone.js/2.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache spark 如何使用spark同时读取不同文件夹中的多个文件?_Apache Spark_Apache Zeppelin - Fatal编程技术网

Apache spark 如何使用spark同时读取不同文件夹中的多个文件?

Apache spark 如何使用spark同时读取不同文件夹中的多个文件?,apache-spark,apache-zeppelin,Apache Spark,Apache Zeppelin,我试图同时读取不同路径中的多个文件。在sql server中,路径“/mapr/ia1.comscore.com/output/cms/cmcm/227m/2018???/app/RunningApp/part-.txt”告诉服务器读取227m月(2018年11月)running app文件夹中的所有文件。“2018???”指2018年11月的所有日期。这样,我们就不必告诉sql server逐个读取每个日期。此处的“2018???”指从“20181101”到“20181130”的所有日期。我想

我试图同时读取不同路径中的多个文件。在sql server中,路径“/mapr/ia1.comscore.com/output/cms/cmcm/227m/2018???/app/RunningApp/part-.txt”告诉服务器读取227m月(2018年11月)running app文件夹中的所有文件。“2018???”指2018年11月的所有日期。这样,我们就不必告诉sql server逐个读取每个日期。此处的“2018???”指从“20181101”到“20181130”的所有日期。我想在spark中做同样的事情,但spark似乎无法识别这种路径格式。我也尝试过将“2018???”改成“2018”,但仍然不起作用

有人知道如何解决这个问题吗

请注意“/mapr/ia1.comscore.com/output/cms/cmcm/227m/20181101/app/RunningApp/part-*.txt”)在spark中运行良好

我用齐柏林飞艇作为笔记本


非常感谢。

最简单的方法是传递路径列表,例如。
sparkContext.read.text(路径=[path1,path2,…])