Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/5.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache spark 子查询中的spark数据源_Apache Spark_Subquery_Datasource - Fatal编程技术网
Fatal编程技术网

Apache spark 子查询中的spark数据源

apache-spark

Apache spark 子查询中的spark数据源,apache-spark,subquery,datasource,Apache Spark,Subquery,Datasource,我为spark2.0.3编写了一个数据源，以从另一个数据源加载数据。但当我在子查询中使用时，过滤器为空，如： 但是=子查询的工作原理如下： 简单的回答是，我们目前没有将过滤器中的下推到数据源中 主要问题是子查询可能包含很多值，向下推这些值本身可能会非常昂贵（大型SQL，而源代码可能无法处理这些值）

我为spark2.0.3编写了一个数据源，以从另一个数据源加载数据。但当我在子查询中使用时，过滤器为空，如：

但是
=
子查询的工作原理如下：

简单的回答是，我们目前没有将
过滤器中的
下推到数据源中

主要问题是子查询可能包含很多值，向下推这些值本身可能会非常昂贵（大型SQL，而源代码可能无法处理这些值）