Apache spark 在Spark中的循环中插入配置单元SQL
我们正在尝试为配置单元运行INSERT SQL,数据来自Spark中的数据帧。所使用的会话包含所有内容 有两个问题: 问题)尽管我们在forEach循环中创建了会话,但在使用这两个循环时插入仍然失败 1) 数据帧 2) 直火花SQL 下面是代码(Spark SQL方法):Apache spark 在Spark中的循环中插入配置单元SQL,apache-spark,hadoop,hive,apache-spark-sql,Apache Spark,Hadoop,Hive,Apache Spark Sql,我们正在尝试为配置单元运行INSERT SQL,数据来自Spark中的数据帧。所使用的会话包含所有内容 有两个问题: 问题)尽管我们在forEach循环中创建了会话,但在使用这两个循环时插入仍然失败 1) 数据帧 2) 直火花SQL 下面是代码(Spark SQL方法): 这里的错误不清楚 在较高级别上,您可以使用在Spark中启用hivecontext的方法,然后使用append选项直接持久化到配置单元表中。这将比执行插入操作快得多。流程如下所示: 第0步-所有这些都必须在单火花会话中发生。您
这里的错误不清楚 在较高级别上,您可以使用在Spark中启用hivecontext的方法,然后使用append选项直接持久化到配置单元表中。这将比执行插入操作快得多。流程如下所示: 第0步-所有这些都必须在单火花会话中发生。您不需要为每个插入创建多个会话。在某种程度上,这是毫无意义的。 A.创建包含配置单元基础表列的数据框。 B在spark处理期间,数据帧最终将其数据持久化到配置单元中。 C使用append选项启动Dataframe saveastable
希望这有助于理解您需要如何解决此问题。我们使用了df.write.insertInto和Append选项,这会导致错误。终于成功了 这是对配置单元的单例插入。糟糕的方法。正如我在问题中提到的,我们使用了df.write.insertInto和Append选项,这也会导致错误。终于成功了。谢谢你的帮助。如果问题不清楚,你怎么回答?谢谢你的回答和帮助。
import java.time.Instant
import org.apache.spark.sql.{DataFrame, Row, types}
import org.apache.spark.sql.functions.{current_timestamp, first, isnull, lit, max}
import org.apache.spark.sql.types.{StringType, StructField, StructType, TimestampType}
import scala.collection.mutable.ListBuffer
class Controller extends DatabaseServices
with Loggers {
val session = createSparkSession(ConfigFactory.load().getString("local.common.spark.app.name"))
val producer = session.sparkContext.broadcast(KafkaWrapper())
def doIt(TranIDs: DataFrame): Unit = {
import session.sqlContext.implicits._
val TranID = TranIDs
.withColumnRenamed("TranID", "REFERENCE_TranID")
.select($"REFERENCE_TranID")
.union(session.table(BANK_ROLLBACK_TXN_PRODUCER_LOG_VIEW)
.withColumnRenamed("TranID", "REFERENCE_TranID")
.select($"REFERENCE_TranID"))
.where($"REFERENCE_TranID".isNotNull)
if (TranID.count() == 0) {
throw new Exception("No rows.")
}
val core = session
.table(BANK_TRANS_MASTER_CORE)
.withColumnRenamed("TranID", "MASTER_REFERENCE_TranID")
.withColumnRenamed("CLIENTID", "REF_CLIENT_ID")
.withColumnRenamed("SUBCLIENTID", "REF_SUBCLIENT_ID")
.select($"MASTER_REFERENCE_TranID",
$"TranIDDATE")
.join(TranID, TranID.col("REFERENCE_TranID") === $"MASTER_REFERENCE_TranID")
val ref = session
.table(BANK_RBI_REF_CLIENT)
.select($"CLIENTID", $"SUBCLIENTID", $"FLAGTRE")
.join(core, $"CLIENTID" === core.col("REF_CLIENT_ID")
&& $"SUBCLIENTID" === core.col("REF_SUBCLIENT_ID")
val details = session
.table(BANK_TRANS_MASTER_DETAILS)
.select($"TranID",
$"REALFRAUD",
$"REALFRAUDDATEBAE",
$"REALFRAUDYYYYMMDD"
)
.join(ref, ref.col("MASTER_REFERENCE_TranID") === $"TranID"
&& $"REALFRAUD" === lit("Y"))
.where($"TranID".isNotNull
&& $"TranIDDATE".isNotNull)
.groupBy($"TranID")
.agg(first($"TranID").as("TranID"),
first(core("TranIDDATE")).cast("String").as("TranIDDATE"),
max($"REALFRAUDDATEBAE").as("REALFRAUDDATEBAE"),
max($"REALFRAUDYYYYMMDD").as("REALFRAUDYYYYMMDD"),
first($"REALFRAUD").as("REALFRAUD"),
first($"ABA").as("ABA"))
details.foreach(row => {
import scala.collection.JavaConversions._
val transaction = TxUpdate.newBuilder().setTranID(row.getAs("TranID").toString)
.setTranIDDATE(row.getAs("TranIDDATE").toString)
.setAttributes(ListBuffer(
Attribute.newBuilder.setKey("REALFRAUD").setValue(if (row.getAs("REALFRAUD") != null) row.getAs("REALFRAUD").toString else null).build(),
Attribute.newBuilder.setKey("REALFRAUDDATEBAE").setValue(if (row.getAs("REALFRAUDDATEBAE") != null) if (row.getAs("REALFRAUDDATEBAE") != null) row.getAs("REALFRAUDDATEBAE").toString else null else null).build(),
Attribute.newBuilder.setKey("REALFRAUDYYYYMMDD").setValue(if (row.getAs("REALFRAUDYYYYMMDD") != null) row.getAs("REALFRAUDYYYYMMDD").toString else null).build(),
Attribute.newBuilder.setKey("ABA").setValue(if (row.getAs("ABA") != null) row.getAs("ABA").toString else null).build(),
.build()
if (producer.value.sendSync(ConfigFactory.load().getString("local.common.kafka.rollbackKafkaTopicName"),
transaction.getTranID.toString,
transaction)) {
session.sqlContext.sql("insert into " + BANK_ROLLBACK_TXN_PRODUCER_LOG + "(TranID, when_loaded, status) values('" + transaction.getTranID.toString + "', 'current_timestamp()', 'S')")
} else {
session.sqlContext.sql("insert into " + BANK_ROLLBACK_TXN_PRODUCER_LOG + "(TranID, when_loaded, status) values('" + transaction.getTranID.toString + "', 'current_timestamp()', 'F')")
}
})
}
}