elasticsearch 将运动输入流输入Logstash
我目前正在评估Logstash的数据摄取需求。用例之一是从AWS Kinesis流中读取数据。我已经尝试安装logstash input kinesis插件。当我运行它时,我看不到logstash正在处理来自流的任何事件。我的日志存储可以很好地处理其他类型的输入(tcp)。调试日志中没有错误。它的行为就像没有什么可处理的一样。我的配置文件是:
elasticsearch 将运动输入流输入Logstash,
elasticsearch,logstash,amazon-kinesis,
elasticsearch,Logstash,Amazon Kinesis,我目前正在评估Logstash的数据摄取需求。用例之一是从AWS Kinesis流中读取数据。我已经尝试安装logstash input kinesis插件。当我运行它时,我看不到logstash正在处理来自流的任何事件。我的日志存储可以很好地处理其他类型的输入(tcp)。调试日志中没有错误。它的行为就像没有什么可处理的一样。我的配置文件是: input { kinesis { kinesis_stream_name => "GwsElasticPoc"
input {
kinesis {
kinesis_stream_name => "GwsElasticPoc"
application_name => "logstash"
type => "kinesis"
}
tcp {
port => 10000
type => tcp
}
}
filter {
if [type] == "kinesis" {
json {
source => "message"
}
}
if [type] == "tcp" {
grok {
match => { "message" => "Hello, %{WORD:name}"}
}
}
}
output{
if [type] == "kinesis"
{
elasticsearch{
hosts => "http://localhost:9200"
user => "elastic"
password => "changeme"
index => elasticpoc
}
}
if [type] == "tcp"
{
elasticsearch{
hosts => "http://localhost:9200"
user => "elastic"
password => "changeme"
index => elkpoc
}
}
}
我没有尝试过logstash方法,但是如果您在AWS上运行。有一个用于弹性搜索摄食的动觉消防软管,如中所述
您可以看到,这是否可以作为logstash的替代方案,我们需要提供访问AWS服务的AWS凭据,以便此集成工作
您可以在这里找到相同的内容:此插件需要额外访问AWS DynamoDB作为“检查点”数据库 如果有多个流,则需要使用“application_name”在DynamoDB中指定表名
感谢您的回复@dejavu013。我们必须从多个来源(包括动觉流)摄取数据,所以我们正在寻找能够处理这个问题的方法。现在无法将所有数据源转换为动觉流。您是否成功实现了这一点?