elasticsearch 使用Logstash删除文件,elasticsearch,logstash,elasticsearch,Logstash" /> elasticsearch 使用Logstash删除文件,elasticsearch,logstash,elasticsearch,Logstash" />

elasticsearch 使用Logstash删除文件

elasticsearch 使用Logstash删除文件,elasticsearch,logstash,elasticsearch,Logstash,我们希望配置Logstash,以便在它完成对输入文件的处理后,删除该文件。有办法做到这一点吗 谢谢这只股票没有“完成”的概念。它假定一个文件总是可以接收更多的数据,并且从不放弃等待。您可以使用读取直到EOF,然后终止Logstash,之后您可以删除文件(如果Logstash成功终止)。所以,基本上是这样的: /path/to/logstash -f /path/to/configfile < logfile.log && rm logfile.log /path/to/l

我们希望配置Logstash,以便在它完成对输入文件的处理后,删除该文件。有办法做到这一点吗

谢谢

这只股票没有“完成”的概念。它假定一个文件总是可以接收更多的数据,并且从不放弃等待。您可以使用读取直到EOF,然后终止Logstash,之后您可以删除文件(如果Logstash成功终止)。所以,基本上是这样的:

/path/to/logstash -f /path/to/configfile < logfile.log && rm logfile.log
/path/to/logstash-f/path/to/configfile

不幸的是,如果在处理文件时关闭了Logstash,则无法重新启动Logstash并使其在停止的位置继续。如果您需要能够做到这一点,请考虑使用文件输入并读取SysEdB文件来判断LogSTASH是否已到达文件的结尾。请参阅这些文件的格式。

这是可行的,但问题是,如果在处理文件的过程中,LogStAsh崩溃,则它将不知道文件的一部分已经被处理,因此将重复的实体发送到弹性搜索。有办法吗?Thanks@user1052610当前位置我已经添加了一段关于这一点的内容。大卫,谢谢你澄清这一点。这个博客很棒,它展示了如何使用Logstash从一个索引复制到另一个索引。我不知道你在博客中提到的文件输入插件是什么意思。我们真正想做的是配置Logstash,以便它可以使用文件输入插件,在EOF上,1)重命名\移动文件,或2)让Logstash终止。这可以做到吗?如果可以,怎么做?大卫?正如我所解释的,Logstash没有这样的内置功能,但正如我所解释的,您可以自己构建它。它们看起来很神秘,但通过您发送的引用,也许可以编写一个例程来确定何时完成对文件的日志存储。谢谢