Spring batch Spring批处理-web服务到web服务分块

Spring batch Spring批处理-web服务到web服务分块,spring-batch,spring-integration,Spring Batch,Spring Integration,我有一个托管的web服务,它允许批量提取记录。此web服务将起始记录编号(ROWID)和页面大小(最大800)作为参数。可能有50-60k条记录要从该服务中提取,并调用另一个web服务以在块中再次发布所有这些数据,而不在中间持久化数据 如何使用SpringBatch通过调用web服务逐页(分块)提取记录,以及如何将相同的记录发布到另一个web服务 我可以使用Spring集成批处理来实现这一点,但对于大数据集,我不确定Spring集成是否是处理大数据集的Spring批处理的理想方式。Spring批

我有一个托管的web服务,它允许批量提取记录。此web服务将起始记录编号(ROWID)和页面大小(最大800)作为参数。可能有50-60k条记录要从该服务中提取,并调用另一个web服务以在块中再次发布所有这些数据,而不在中间持久化数据

如何使用SpringBatch通过调用web服务逐页(分块)提取记录,以及如何将相同的记录发布到另一个web服务


我可以使用Spring集成批处理来实现这一点,但对于大数据集,我不确定Spring集成是否是处理大数据集的Spring批处理的理想方式。

Spring批处理没有web服务
ItemReader
。也就是说,如果您创建了一个扩展
AbstractPagingItemReader
的自定义
ItemReader
,那么应该为您处理分页逻辑本身(您实现了
doReadPage()
方法,该方法处理获取数据页的操作,超类处理跟踪您所处的页面等)

对于
ItemWriter
方面,如果您有一个想要调用的客户端,您可以使用
ItemWriterAdapter
。这将调用java对象上的方法,将列表中的每个项目传递给
ItemWriter\write(list items)
方法。否则,您需要自己编写

无论哪种情况,您需要的自定义代码都应该是最小的