Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/5.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache spark Apache Spark拼花地板数据帧的JOOQ生成器?_Apache Spark_Apache Spark Sql_Jooq_Parquet - Fatal编程技术网

Apache spark Apache Spark拼花地板数据帧的JOOQ生成器?

Apache spark Apache Spark拼花地板数据帧的JOOQ生成器?,apache-spark,apache-spark-sql,jooq,parquet,Apache Spark,Apache Spark Sql,Jooq,Parquet,我在一个地方工作,我们在后端代码的某些部分使用JOOQ生成sql查询。已经编写了很多代码来使用它。在我这方面,我想将这些特性映射到spark中,特别是在spark SQL中生成对从一堆拼花文件加载的数据帧的查询 是否有任何工具可以从拼花(或spark)模式生成DSL类?我找不到。在这个问题上,其他方法是否成功 理想情况下,我希望从可能不断发展的模式中动态生成表和字段 我知道这是一个广泛的问题,如果它被认为超出了范围,我将关闭它。jOOQ不正式支持Spark,但您有多种选项可以对Spark数据库中

我在一个地方工作,我们在后端代码的某些部分使用JOOQ生成sql查询。已经编写了很多代码来使用它。在我这方面,我想将这些特性映射到spark中,特别是在spark SQL中生成对从一堆拼花文件加载的数据帧的查询

是否有任何工具可以从拼花(或spark)模式生成DSL类?我找不到。在这个问题上,其他方法是否成功

理想情况下,我希望从可能不断发展的模式中动态生成表和字段


我知道这是一个广泛的问题,如果它被认为超出了范围,我将关闭它。

jOOQ不正式支持Spark,但您有多种选项可以对Spark数据库中的任何架构元数据进行反向工程:

使用
jdbc数据库
与任何其他jooq meta
数据库
实现一样,如果JDBC驱动程序支持,您可以使用
JDBCDatabase
对通过JDBCAPI可以找到的任何内容进行反向工程

将文件用作元数据源 从jOOQ版本3.10开始,有三种不同类型的“离线”元数据源可用于生成数据:

  • 将从XML文件生成代码
  • 将从JPA注释的实体生成代码
  • 将解析DDL文件并对其输出进行反向工程(这可能对Spark不起作用,因为其语法不受官方支持)
不使用代码生成器
当然,您不必生成任何代码。您可以直接从JDBC驱动程序(再次通过
DatabaseMetaData
API)获取元数据信息,该驱动程序是通过抽象的,或者使用XML内容通过再次动态地向jOOQ提供模式,谢谢您的回答。。但我不确定这对我的问题有多大帮助。我仍然需要弥合spark模式和[placeholder]格式jooq-understand之间的差距。生成TableImpl和jooq使用的字段的工作量是相同的。jooq理解的[placeholder]格式的意思是什么?