elasticsearch 日志存储调度首次运行,elasticsearch,logstash,elk,elasticsearch,Logstash,Elk" /> elasticsearch 日志存储调度首次运行,elasticsearch,logstash,elk,elasticsearch,Logstash,Elk" />

elasticsearch 日志存储调度首次运行

elasticsearch 日志存储调度首次运行,elasticsearch,logstash,elk,elasticsearch,Logstash,Elk,我有一个logstash管道每5分钟运行一次,下面是jdbc输入配置,问题是在第一次启动管道时,它也会等待5分钟,然后开始调度。有没有办法指定我们的查询/语句在logstash管道启动后立即执行,而不是在前5分钟等待 input { jdbc { jdbc_driver_class => "com.mysql.jdbc.Driver" jdbc_connection_string => "jdbc:mysql://${DB_HOST}/${DB_NAME}?use

我有一个logstash管道每5分钟运行一次,下面是jdbc输入配置,问题是在第一次启动管道时,它也会等待5分钟,然后开始调度。有没有办法指定我们的查询/语句在logstash管道启动后立即执行,而不是在前5分钟等待

input {
  jdbc {
    jdbc_driver_class => "com.mysql.jdbc.Driver"
    jdbc_connection_string => "jdbc:mysql://${DB_HOST}/${DB_NAME}?useSSL=false"
    jdbc_user => "${DB_USER_NAME}"
    jdbc_password => "${DB_PASSWORD}"
    schedule => "*/5 * * * *"    
    statement => "Select * from students"
  }
}

不,这不是cron调度的工作方式(这是jdbc输入使用的)。有一个包含一个指向添加此功能的修补程序的链接。

另一个解决方法是使用两个jdbc输入,一个用于启动,一个用于计划。它需要一点复制/粘贴,但也不太糟糕

input {
    jdbc {
        id => "index_name_startup"
        jdbc_connection_string => "${JDBC_STRING}"
        jdbc_user => "${JDBC_USER}"
        jdbc_password => "${JDBC_PASSWORD}"
        jdbc_driver_library => "/opt/logstash/postgresql-42.2.5.jre7.jar"
        jdbc_driver_class => "org.postgresql.Driver"
        add_field => { "[@metadata][project_id]" => "index_name" }
        statement_filepath => "/mnt/elastic-search-config/sql-scripts/assets-index_name.sql"
    }

    jdbc {
        id => "index_name"
        jdbc_connection_string => "${JDBC_STRING}"
        jdbc_user => "${JDBC_USER}"
        jdbc_password => "${JDBC_PASSWORD}"
        jdbc_driver_library => "/opt/logstash/postgresql-42.2.5.jre7.jar"
        jdbc_driver_class => "org.postgresql.Driver"
        add_field => { "[@metadata][project_id]" => "index_name" }
        statement_filepath => "/mnt/elastic-search-config/sql-scripts/assets-index_name.sql"
        schedule => "0 * * * *"
    }
}

filter {
    mutate {
        gsub => [
         "name", "_", " ",
         "name", "-", " "
        ]
    }
}

output {
    if [@metadata][project_id] == "index_name" {
        elasticsearch {
            index => "index_name"
            document_id => "%{geom_id}"
            hosts => "localhost:9200"
            template_name => "assets_template"
            id => "index_name_es"
        }
    }
}