Filesystems 基于文件系统的工作流

Filesystems 基于文件系统的工作流,filesystems,rabbitmq,message-queue,distributed-system,event-driven-design,Filesystems,Rabbitmq,Message Queue,Distributed System,Event Driven Design,我有一个带有web应用程序的应用程序,它基本上接受一些日志文件的上传,并且有一些进程应该按顺序对接收到的日志文件进行操作。在其当前实现中,每个进程都从文件系统接收文件,并执行一些处理,然后将处理后的文件输出到其他文件夹,并将其从输入文件夹中删除。现在,我想知道这是否是最好的方法,但我对此表示怀疑。在这里,最好的方法应该是什么?我应该为此使用RabbitMQ这样的消息传递系统吗?我应该在队列中传递整个文件,还是只传递一个目录/文件名,并将该文件保存在其他公共文件系统(如NAS或分布式文件系统)上?

我有一个带有web应用程序的应用程序,它基本上接受一些日志文件的上传,并且有一些进程应该按顺序对接收到的日志文件进行操作。在其当前实现中,每个进程都从文件系统接收文件,并执行一些处理,然后将处理后的文件输出到其他文件夹,并将其从输入文件夹中删除。现在,我想知道这是否是最好的方法,但我对此表示怀疑。在这里,最好的方法应该是什么?我应该为此使用RabbitMQ这样的消息传递系统吗?我应该在队列中传递整个文件,还是只传递一个目录/文件名,并将该文件保存在其他公共文件系统(如NAS或分布式文件系统)上?

这在很大程度上取决于您的要求和设置。例如,如果进程是指物理上独立的节点,那么面向消息的中间件在启用发布者/订阅者节点之间的通信方面是有意义的。另外,另一个优点是,您可以卸载接受输入文件的节点,并在其他节点上分发业务逻辑