elasticsearch 建立麋鹿群
我正在尝试在Windows服务器上使用RabbitMQ+ELK构建日志管道 RabbitMQ-->日志存储-->弹性搜索-->Kibana 理想情况下,我希望有2个RabbitMQ实例、2个Logstash实例、3个ElasticSearch实例和1个Kibana实例 有人做过这样的事吗?我知道我们可以通过在yml中设置集群名称轻松设置ElasticSearch集群。lagstash写入ES集群的机制是什么
elasticsearch 建立麋鹿群,
elasticsearch,rabbitmq,logstash,kibana,
elasticsearch,Rabbitmq,Logstash,Kibana,我正在尝试在Windows服务器上使用RabbitMQ+ELK构建日志管道 RabbitMQ-->日志存储-->弹性搜索-->Kibana 理想情况下,我希望有2个RabbitMQ实例、2个Logstash实例、3个ElasticSearch实例和1个Kibana实例 有人做过这样的事吗?我知道我们可以通过在yml中设置集群名称轻松设置ElasticSearch集群。lagstash写入ES集群的机制是什么 我是否应该在每个实例中设置RabbitmQ+Logstash组合,以便如果MQs位于负载
我是否应该在每个实例中设置RabbitmQ+Logstash组合,以便如果MQs位于负载平衡器后面,则每个MQ将有自己的Logstash输出实例,并从那里将数据传输到集群。从技术上讲,您可以使用elasticsearch输出插件或elasticsearch\u http输出插件直接从Logstash写入ES(如果使用ES版本与Logstash不兼容),也就是说,对于企业场景,您需要容错并处理卷,最好使用RabbitMQ/Redis 您的上述配置看起来不错,尽管Rabbit集群的输入来自一个或多个日志存储发货人(在日志所在的客户机上运行的实例),这将指向HA RabbitMQ集群。然后是一个日志存储索引器,其输入将配置为查看RabbitMQ队列并将其输出到弹性搜索集群
希望这会有所帮助。不建议直接将数据从Logstash放到ES。 ES写入速度慢,因此在重载情况下可能会丢失数据 这个想法是在Logstash和ES之间添加一个代理 日志存储-->代理-->弹性搜索 Logstash支持Redis和RabbitMQ作为代理 该代理可以处理大量输入,并作为队列机制工作 Logstash将Redis作为主要选择(因为设置和监控简单)