elasticsearch 将运动输入流输入Logstash,elasticsearch,logstash,amazon-kinesis,elasticsearch,Logstash,Amazon Kinesis" /> elasticsearch 将运动输入流输入Logstash,elasticsearch,logstash,amazon-kinesis,elasticsearch,Logstash,Amazon Kinesis" />

elasticsearch 将运动输入流输入Logstash

elasticsearch 将运动输入流输入Logstash,elasticsearch,logstash,amazon-kinesis,elasticsearch,Logstash,Amazon Kinesis,我目前正在评估Logstash的数据摄取需求。用例之一是从AWS Kinesis流中读取数据。我已经尝试安装logstash input kinesis插件。当我运行它时,我看不到logstash正在处理来自流的任何事件。我的日志存储可以很好地处理其他类型的输入(tcp)。调试日志中没有错误。它的行为就像没有什么可处理的一样。我的配置文件是: input { kinesis { kinesis_stream_name => "GwsElasticPoc"

我目前正在评估Logstash的数据摄取需求。用例之一是从AWS Kinesis流中读取数据。我已经尝试安装logstash input kinesis插件。当我运行它时,我看不到logstash正在处理来自流的任何事件。我的日志存储可以很好地处理其他类型的输入(tcp)。调试日志中没有错误。它的行为就像没有什么可处理的一样。我的配置文件是:

input {
    kinesis {
        kinesis_stream_name => "GwsElasticPoc"
        application_name => "logstash"
        type => "kinesis"
    }
    tcp {
         port => 10000
         type => tcp
    }
}

filter {
    if [type] == "kinesis" {
        json {
            source => "message"
        }  
    }

    if [type] == "tcp" {
        grok {
            match => { "message" => "Hello, %{WORD:name}"}
        }
    }
} 

output{
    if [type] == "kinesis"
    {
        elasticsearch{
            hosts => "http://localhost:9200"
            user => "elastic"
            password => "changeme"
            index => elasticpoc
        }
    }
    if [type] == "tcp"
    {
        elasticsearch{
            hosts => "http://localhost:9200"
            user => "elastic"
            password => "changeme"
            index => elkpoc
        }
    }
}

我没有尝试过logstash方法,但是如果您在AWS上运行。有一个用于弹性搜索摄食的动觉消防软管,如中所述


您可以看到,这是否可以作为logstash的替代方案,我们需要提供访问AWS服务的AWS凭据,以便此集成工作


您可以在这里找到相同的内容:

此插件需要额外访问AWS DynamoDB作为“检查点”数据库

如果有多个流,则需要使用“application_name”在DynamoDB中指定表名


感谢您的回复@dejavu013。我们必须从多个来源(包括动觉流)摄取数据,所以我们正在寻找能够处理这个问题的方法。现在无法将所有数据源转换为动觉流。您是否成功实现了这一点?