Ubuntu Fluentd插件已安装,但不工作

Ubuntu Fluentd插件已安装,但不工作,ubuntu,devops,fluentd,Ubuntu,Devops,Fluentd,对小组来说是新的,对fluentd来说也是新的。在过去的3周左右的时间里,我学习了fluentd,并成功地运行了一个fluentd elasticsearch kibana实例。所以,当然,我决定我需要做更多,这就是我遇到的一个问题 我的问题是: 所有系统日志都是坏的。它们是出了名的坏。它们不遵循标准格式。实际上,它们不遵循任何单一格式,因此,如果您想为所有需要索引的内容获取索引,您需要构建多个正则表达式。我花了一点时间挖掘,发现有一个叫做多格式解析器的插件可以做到这一点。它采用多种格式,或者在

对小组来说是新的,对fluentd来说也是新的。在过去的3周左右的时间里,我学习了fluentd,并成功地运行了一个fluentd elasticsearch kibana实例。所以,当然,我决定我需要做更多,这就是我遇到的一个问题

我的问题是:

所有系统日志都是坏的。它们是出了名的坏。它们不遵循标准格式。实际上,它们不遵循任何单一格式,因此,如果您想为所有需要索引的内容获取索引,您需要构建多个正则表达式。我花了一点时间挖掘,发现有一个叫做多格式解析器的插件可以做到这一点。它采用多种格式,或者在本例中是多个正则表达式,并选择第一个匹配的正则表达式。所以我安装了插件,更新了配置,重启了fluent-d,什么都没有

所以我检查了一下配置,觉得我在什么地方打错了。我看不到打字错误,所以我看了看fluentd日志,你瞧:

2020-06-18 07:00:20-0700[错误]:配置错误文件=/etc/td-agent/td-agent.conf error\u class=Fluent::conferror=Unknown解析器插件'multi\u format'。运行“gem search-rd fluent plugin”查找插件

这很奇怪,因为:

root@ip-10-0-1-146:~fluent gem安装fluent插件多格式解析器 已成功安装fluent-plugin-multi-format-parser-1.0.0 fluent-plugin-multi-format-parser-1.0.0解析文档 0秒后完成fluent插件多格式解析器的文档安装 已安装1个gem

有人能告诉我我在这里遗漏了什么吗?我的理解是,安装插件是一个非常简单的过程。运行命令,插件就安装好了,你就可以开始了。这一个看起来不同,因为我已经安装了它,它说我已经安装了它,但它在配置中没有识别它

谢谢

看看这里:

我们可以使用td代理管理基于Gemfile的Fluentd及其插件。 对于td agent 3.1.1,请使用以下插入文件/etc/systemd/system/td-agent.service.d/override.conf:

我们还可以通过以下命令编辑此文件:

然后添加/etc/td-agent/Gemfile:

gem "fluent-plugin-multi-format-parser", "1.0.0"
因此,对于您的插件,您需要将以下内容添加到/etc/td-agent/Gemfile中:

gem "fluent-plugin-multi-format-parser", "1.0.0"

希望这能有所帮助。我现在也在做同样的事情。因此,如果你的正则表达式有效,请分享。

谢谢,布伦顿!这似乎成功了。不幸的是,由于我对运行它的Unix虚拟机的大小估计错误,它最终崩溃了,我不得不退出。我可能无法再次访问正则表达式问题。当时,我能够将多个regex配置加载到fluentd中,但它们似乎没有正确捕获,因此无法进一步深入。将来我可能会尝试在更大的虚拟机上重建堆栈,但现在我需要继续尝试Grafana Loki
source "https://rubygems.org"
# You can use fixed version of Fluentd and its plugins
gem "fluentd", "1.2.1"
gem "fluent-plugin-elasticsearch", "2.4.0"
gem "fluent-plugin-kafka", "0.6.5"
gem "fluent-plugin-rewrite-tag-filter", "2.0.1"
gem "fluent-plugin-s3", "1.1.0"
gem "fluent-plugin-td", "1.0.0"
gem "fluent-plugin-td-monitoring", "0.2.3"
gem "fluent-plugin-webhdfs", "1.2.2"
# Add plugins you want to use
gem "fluent-plugin-geoip", "1.2.0"
gem "fluent-plugin-multi-format-parser", "1.0.0"