Rabbitmq 使用Spring批处理和AMQP的分布式批处理

Rabbitmq 使用Spring批处理和AMQP的分布式批处理,rabbitmq,spring-batch,amqp,spring-amqp,Rabbitmq,Spring Batch,Amqp,Spring Amqp,我想分配大批量的加工。其想法是使用Spring批处理在云中启动一组AMQP消费者,然后加载廉价任务(如项目ID)并将其提交给AMQP交换。结果的撰写将由消费者自己完成 有现成的图书馆来完成这项工作吗 一些想法: 春季批量完全可以协商 批量大小为数百万。我不想用暴力一次提交所有这些ID来杀死我的MessageBroker,而是使用某种节流 我确实想知道哪些项目已被处理,以便我可以监控该过程。因此,批处理控制过程必须收到消费者的回复 是的,请参见项目。它结合了Spring批处理和Spring集成来

我想分配大批量的加工。其想法是使用Spring批处理在云中启动一组AMQP消费者,然后加载廉价任务(如项目ID)并将其提交给AMQP交换。结果的撰写将由消费者自己完成

有现成的图书馆来完成这项工作吗

一些想法:

  • 春季批量完全可以协商
  • 批量大小为数百万。我不想用暴力一次提交所有这些ID来杀死我的MessageBroker,而是使用某种节流
  • 我确实想知道哪些项目已被处理,以便我可以监控该过程。因此,批处理控制过程必须收到消费者的回复
是的,请参见项目。它结合了Spring批处理和Spring集成来执行您想要的操作

对于batch 2.2.x,它是
spring batch admin
发行版的一部分;在即将发布的batch 3.0.0发行版中,它已被移动到batch Right

远程分区只发送有关分区的元数据,而工作人员实际获取数据

它附带了一个接口,但将spring集成JMS网关替换为spring集成amqp网关并不困难


还有一个远程分块版本,数据通过传输而不是分区元数据发送。

谢谢,这正是我想要的。我正在尝试做类似的事情,请您指导好吗?