elasticsearch Terraform:cloudwatch日志到elasticsearch,elasticsearch,lambda,terraform,elasticsearch,Lambda,Terraform" /> elasticsearch Terraform:cloudwatch日志到elasticsearch,elasticsearch,lambda,terraform,elasticsearch,Lambda,Terraform" />

elasticsearch Terraform:cloudwatch日志到elasticsearch

elasticsearch Terraform:cloudwatch日志到elasticsearch,elasticsearch,lambda,terraform,elasticsearch,Lambda,Terraform,我正在尝试使用Lambda函数或Amazon Kinesis将cloudwatch日志推送到弹性搜索。我使用terraform设置日志组并运行弹性搜索域。请建议如何将日志从日志组推送到弹性搜索。如果您有相同的terraform代码,请共享。记录了一些用于创建lambda和Cloudwatch订阅的示例terraform代码,该订阅将日志从Cloudwatch日志组发送到Sumologic HTTP collector,这只是一个基本的HTTP POST端点。每次向日志组发布新的一批日志条目时,C

我正在尝试使用Lambda函数或Amazon Kinesis将cloudwatch日志推送到弹性搜索。我使用terraform设置日志组并运行弹性搜索域。请建议如何将日志从日志组推送到弹性搜索。如果您有相同的terraform代码,请共享。

记录了一些用于创建lambda和Cloudwatch订阅的示例terraform代码,该订阅将日志从Cloudwatch日志组发送到Sumologic HTTP collector,这只是一个基本的HTTP POST端点。每次向日志组发布新的一批日志条目时,Cloudwatch订阅都会调用Lambda

在该地形代码中提到的cloudwatch sumologic lambda是从

我想您也会做类似的事情,但是重新编写Lambda来格式化HTTP,而ElasticSearch需要这样做。我敢打赌,在谷歌上快速搜索一下,你会发现很多例子

不过,除了所有这些Terraform配置之外,您也可以转到Cloudwatch控制台,选择您感兴趣的日志组,然后选择Stream to Amazon ElasticSearch


虽然我认为只有当您使用AWS ElasticSearch服务时,这才有效-这意味着如果您自己在某些EC2实例上安装/配置了ElasticSearch,它可能不起作用。

请指定您已经尝试过的内容、哪些有效、哪些无效等,以期望得到答案。感谢您的回复。我正在寻找如何/什么是最好的指导。我可以从控制台手动执行流到amazon弹性搜索,在此期间设置IAM角色默认值,并且amazon还提供默认Lambda功能。有了它,我将日志推到弹性搜索。现在,我不确定应该如何/哪些地形模块来设置它;但是它是封闭源代码。我希望这篇文章能很快被批准开源,我会在发布后再发布一个链接。谢谢@TJBIDDLE谢谢你的支持。我手动创建了Amazon Elasticsearch服务的流,效果很好。我正在使用亚马逊弹性搜索。他们使它变得简单,并自动创建lambda函数。也许我可以重复使用亚马逊默认提供的lamda功能。我不知道应该使用什么Terraform模块来实现自动化,但看起来aws_cloudwatch_log_subscription_filter和aws_lambda_函数是我应该使用的,因为我已经创建了日志组。已经顺便提一下我也看到了您回复的另一篇帖子。我在尝试订阅Kinesis Firehose*aws\u cloudwatch\u log\u subscription\u filter.test\u Kinesis\u logfilter:1出现错误:*aws\u cloudwatch\u log\u subscription\u filter.test\u Kinesis\u logfilter:InvalidParameterException:无法将测试消息传递到指定的Firehose流动检查给定的消防软管流是否处于活动状态。