elasticsearch 建立麋鹿群,elasticsearch,rabbitmq,logstash,kibana,elasticsearch,Rabbitmq,Logstash,Kibana" /> elasticsearch 建立麋鹿群,elasticsearch,rabbitmq,logstash,kibana,elasticsearch,Rabbitmq,Logstash,Kibana" />

elasticsearch 建立麋鹿群

elasticsearch 建立麋鹿群,elasticsearch,rabbitmq,logstash,kibana,elasticsearch,Rabbitmq,Logstash,Kibana,我正在尝试在Windows服务器上使用RabbitMQ+ELK构建日志管道 RabbitMQ-->日志存储-->弹性搜索-->Kibana 理想情况下,我希望有2个RabbitMQ实例、2个Logstash实例、3个ElasticSearch实例和1个Kibana实例 有人做过这样的事吗?我知道我们可以通过在yml中设置集群名称轻松设置ElasticSearch集群。lagstash写入ES集群的机制是什么 我是否应该在每个实例中设置RabbitmQ+Logstash组合,以便如果MQs位于负载

我正在尝试在Windows服务器上使用RabbitMQ+ELK构建日志管道

RabbitMQ-->日志存储-->弹性搜索-->Kibana

理想情况下,我希望有2个RabbitMQ实例、2个Logstash实例、3个ElasticSearch实例和1个Kibana实例

有人做过这样的事吗?我知道我们可以通过在yml中设置集群名称轻松设置ElasticSearch集群。lagstash写入ES集群的机制是什么


我是否应该在每个实例中设置RabbitmQ+Logstash组合,以便如果MQs位于负载平衡器后面,则每个MQ将有自己的Logstash输出实例,并从那里将数据传输到集群。

从技术上讲,您可以使用elasticsearch输出插件或elasticsearch\u http输出插件直接从Logstash写入ES(如果使用ES版本与Logstash不兼容),也就是说,对于企业场景,您需要容错并处理卷,最好使用RabbitMQ/Redis

您的上述配置看起来不错,尽管Rabbit集群的输入来自一个或多个日志存储发货人(在日志所在的客户机上运行的实例),这将指向HA RabbitMQ集群。然后是一个日志存储索引器,其输入将配置为查看RabbitMQ队列并将其输出到弹性搜索集群


希望这会有所帮助。

不建议直接将数据从Logstash放到ES。 ES写入速度慢,因此在重载情况下可能会丢失数据

这个想法是在Logstash和ES之间添加一个代理

日志存储-->代理-->弹性搜索

Logstash支持Redis和RabbitMQ作为代理

该代理可以处理大量输入,并作为队列机制工作

Logstash将Redis作为主要选择(因为设置和监控简单)