在logstash中处理压缩日志

在logstash中处理压缩日志,logstash,Logstash,我有zip文件,其中包含日志文件。我的方案需要从zip文件中提取它,然后用logstash?解析它。有谁能指导我这将非常有用。感谢您宝贵的时间。logstash本身没有任何输入插件来处理zip文件中的日志文件,但是,只要您自己将文件解压缩到一个配置了Logstash以在其中查找日志文件的目录中,就可以了。该标准接受通配符,因此您可以说 input { file { path => ["/some/path/*.log"] } } 要让Logstash处理/some/pat

我有zip文件,其中包含日志文件。我的方案需要从zip文件中提取它,然后用logstash?解析它。有谁能指导我这将非常有用。感谢您宝贵的时间。

logstash本身没有任何输入插件来处理zip文件中的日志文件,但是,只要您自己将文件解压缩到一个配置了Logstash以在其中查找日志文件的目录中,就可以了。该标准接受通配符,因此您可以说

input {
  file {
    path => ["/some/path/*.log"]
  }
}
要让Logstash处理/some/path目录中的所有文件(您可能还需要为消息分配一个类型)

如果zip归档文件中的文件名不唯一,则必须确保解压归档文件时不会覆盖现有文件。或者,最好将每个归档文件提取到自己的目录中,并对整个树进行日志存储:

input {
  file {
    path => ["/some/path/*/*.log"]
  }
}

Logstash无法删除已处理的日志或将其移开,因此您也必须注意这一点。

在您使用的平台上添加标签是很重要的吗?当然,您可以解压缩日志,但让我们看一个我日常使用的小例子。我的应用程序每天生成大约2gb的日志,难道没有更好的方法将其输入日志库吗?我不能仅仅为了获取日志文件而通过网络从单个客户端传输2gb的原始文本。