Apache spark 可以在Spark SQL中对组运行迭代算法吗?

Apache spark 可以在Spark SQL中对组运行迭代算法吗?,apache-spark,apache-spark-sql,spark-structured-streaming,Apache Spark,Apache Spark Sql,Spark Structured Streaming,我想在Spark Structured Streaming中的一批窗口数据上运行一个迭代算法,它对应于在RelationalGroupedDataset或KeyValueGroupedDataset中的组上运行一个迭代算法 我能找到的唯一选项(如UserDefinedAggregateFunction或mapGroupsWithState)只支持对每个组中的数据进行一次传递。有没有办法定义一个对该组进行多次传递的计算 中的算法3是在移动到下一个窗口之前对数据窗口执行迭代优化的算法示例

我想在Spark Structured Streaming中的一批窗口数据上运行一个迭代算法,它对应于在RelationalGroupedDataset或KeyValueGroupedDataset中的组上运行一个迭代算法

我能找到的唯一选项(如UserDefinedAggregateFunction或mapGroupsWithState)只支持对每个组中的数据进行一次传递。有没有办法定义一个对该组进行多次传递的计算

中的算法3是在移动到下一个窗口之前对数据窗口执行迭代优化的算法示例