Logstash 解析csv文件以删除不需要的列和双引号

Logstash 解析csv文件以删除不需要的列和双引号,logstash,logstash-grok,Logstash,Logstash Grok,我有一个包含如下数据的多个csv文件。这些csv文件每小时都会写入新信息。我正在使用filebeat将这些文件提供给logstash服务器,但希望配置logstash conf文件来解析csv文件 “记录类型”、“记录代码”、“代理名称”、“代理UUID”、“EG名称”、“EG UUID”、“消息流名称”、“消息流UUID”、“应用程序名称”、“应用程序UUID”、“库名称”、“库UUID”、“记录开始日期”、“记录开始时间”、“记录GMT开始时间戳”、“记录结束日期”、“记录结束时间”、“记录

我有一个包含如下数据的多个csv文件。这些csv文件每小时都会写入新信息。我正在使用filebeat将这些文件提供给logstash服务器,但希望配置logstash conf文件来解析csv文件

“记录类型”、“记录代码”、“代理名称”、“代理UUID”、“EG名称”、“EG UUID”、“消息流名称”、“消息流UUID”、“应用程序名称”、“应用程序UUID”、“库名称”、“库UUID”、“记录开始日期”、“记录开始时间”、“记录GMT开始时间戳”、“记录结束日期”、“记录结束时间”、“记录GMT结束时间戳”、“总运行时间”,“平均运行时间”、“最大运行时间”、“最小运行时间”、“总CPU时间”、“平均CPU时间”、“最大CPU时间”、“最小CPU时间”、“等待输入消息的CPU时间”、“等待输入消息的运行时间”、“输入消息总数”、“输入消息的总大小”、“平均输入消息大小”“输入消息的最大大小”、“输入消息的最小大小”、“池中的线程数”、“达到的时间最大线程数”、“MQ错误总数”、“有错误的消息总数”、“处理消息的错误总数”、“等待对聚合消息的答复的超时总数”、“提交总数”退出总数,“会计来源”
“存档”、“主要间隔”、“DEV1”、“f328c29c-c695-11e5-addb-cc355a180000”、“付款报价”、“9c276fa8-5201-0000-0080-941e766a88ad”、“com.PAYFFQUOTE.PAYFFQUOTE”、“273f59b2-5201-0000-0080-9c722b3eca55”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”、“”“,“0”,“183935”,“3226073825”,“0”,“0”,“0”,“0”,“0”,“0”,“0”,“0”,“0”,“0”,“0”,“0”,“0”,“匿名”
“存档”、“主要间隔”、“DEV1”、“f328c29c-c695-11e5-addb-cc355a180000”、“付款报价”、“9c276fa8-5201-0000-0080-941e766a88ad”、“com.PAYFFQUOTE.PAYFFQUOTE”、“273f59b2-5201-0000-0080-9c722b3eca55”、“2017-02-16”、“01:46:17.773949”、“2017-02-16:46:17.7739”、“2017-02-16:46:45:57”、“2017-19:08”、“0”、“0:0”、“0”,“0”,“193549”,“3601568195”,“0”,“0”,“0”,“0”,“0”,“1”,“0”,“0”,“0”,“0”,“0”,“0”,“0”,“0”,“匿名”
“归档”、“主要间隔”、“DEV1”、“f328c29c-c695-11e5-addb-cc355a180000”、“付款报价”、“9c276fa8-5201-0000-0080-941e766a88ad”、“com.PAYFFQUOTE.PAYFFQUOTE”、“273f59b2-5201-0000-0080-9c722b3eca55”、“2017-02-16”、“02:46:19.4537”、“2017-02-16”、“03:46:21.574”、“2017-02-16”、“1840:0”、“1840”,“0”,“201382”,“3601616866”,“0”,“0”,“0”,“0”,“1”,“0”,“0”,“0”,“0”,“0”,“0”,“0”,“0”,“0”,“匿名”
“存档”、“主要间隔”、“DEV1”、“f328c29c-c695-11e5-addb-cc355a180000”、“付款报价”、“9c276fa8-5201-0000-0080-941e766a88ad”、“com.PAYFFQUOTE.PAYFFQUOTE”、“273f59b2-5201-0000-0080-9c722b3eca55”、、、、、、、“2017-02-16”、“03:46:21.184637”、“2017-02-16:46:21.1846”、“2017-02-16”、“04:46:22.130”、“2017-02-22:10”、“2850”、“2850”、“2850”,“0”,“216962”,“3600985884”,“0”,“0”,“0”,“0”,“0”,“1”,“0”,“0”,“0”,“0”,“0”,“0”,“0”,“匿名”
“存档”、“主要间隔”、“DEV1”、“f328c29c-c695-11e5-addb-cc355a180000”、“付款报价”、“9c276fa8-5201-0000-0080-941e766a88ad”、“com.PAYFFQUOTE.PAYFFQUOTE”、“273f59b2-5201-0000-0080-9c722b3eca55”、“2017-02-16”、“04:46:22.285200”、“2017-02-16 10:46:22.2852”、“2017-02-16”、“05:46:18.767”、“2017-02-16:18”、“0”、“760”、“0”,“0”,“211619”,“3596362373”,“0”,“0”,“0”,“0”,“1”,“0”,“0”,“0”,“0”,“0”,“0”,“0”,“0”,“匿名”
“存档”、“主要间隔”、“DEV1”、“f328c29c-c695-11e5-addb-cc355a180000”、“付款报价”、“9c276fa8-5201-0000-0080-941e766a88ad”、“com.PAYFFQUOTE.PAYFFQUOTE”、“DEV1”、“f328c29c-c695-11e5-addb-cc355a180000”、“付款报价单”、“9c276fa8-5201-0000-0080-941e766a88ad”、“com.PAYFFQUOTE.PAYFFQUOTE.PAYFFQUOTE”、“273f59b2-5201-0000-0000-0080-9c722b3eca55”、“2017-02-16”、“2017-02-02-16:18.762035”、“2017-02-02-16:46:46:19.9340”、“2017-02-0”、“930”等”,“0”,“230385”,“3601047136”,“0”,“0”,“0”,“0”,“1”,“0”,“0”,“0”,“0”,“0”,“0”,“0”,“0”,“0”,“匿名”
“存档”、“主要间隔”、“DEV1”、“f328c29c-c695-11e5-addb-cc355a180000”、“支付报价”、“9c276fa8-5201-0000-0080-941e766a88ad”、“com.payffquote.payffquote”、“273f59b2-5201-0000-0080-9c722b3eca55”、“2017-02-16”、“2017-02-16 12:46:19.9353”、“2017-02-16”、“07:46:21.328939”、“2017-02-13”、“0”、“320”、“0”,“0”,“231875”,“3601265537”,“0”,“0”,“0”,“0”,“1”,“0”,“0”,“0”,“0”,“0”,“0”,“0”,“0”,“匿名”

不,我想解析这些文件以获得以下内容

时间戳:2017-02-16 00:52:31代理:DEV1例如\u名称:支付报价消息\u流\u名称:com.PayoffQuote.PayoffQuote输入\u消息:0 cpu\u时间:0
时间戳:2017-02-16 01:46:17代理:DEV1例如(名称)支付报价消息(流程)(名称)(com.PayoffQuote.PayoffQuote输入)消息(0 cpu)(时间:0)
时间戳:2017-02-16 02:46:19代理:DEV1例如\u名称:支付报价消息\u流\u名称:com.PayoffQuote.PayoffQuote输入\u消息:0 cpu\u时间:0
时间戳:2017-02-16 03:46:21代理:DEV1例如(名称)支付报价消息(流程)(名称)(com.PayoffQuote.PayoffQuote输入)消息(0 cpu)(时间:0)
时间戳:2017-02-16 04:46:22代理:DEV1示例名称:支付报价消息\u流\u名称:com.PayoffQuote.PayoffQuote输入消息:0 cpu\u时间:0
时间戳:2017-02-16 05:46:18代理:DEV1例如(名称)支付报价消息(流程)(名称)(com.PayoffQuote.PayoffQuote输入)消息(0 cpu)(时间:0)
时间戳:2017-02-16 06:46:19代理:DEV1例如\u名称:支付报价消息\u流\u名称:com.PayoffQuote.PayoffQuote输入\u消息:0 cpu\u时间:0

我已经使用csv过滤器获得以下内容

{“消息流名称”:“com.payoffquote.payoffquote”,“总CPU时间”:“0”,“记录开始日期”:“2017-02-16”,“输入消息总数”:“0”,“代理名称”:“DEV1”,“记录开始时间”:“00:52:31.599941”,“时间戳”:“2017-02-16:00:52:31.599941”}
{“消息流名称”:“com.payoffquote.payoffquote”,“总CPU时间”:“0”,“记录开始日期”:“2017-02-16”,“输入消息总数”:“0”,“代理名称”:
mutate {
  gsub -> [ 
    "message_flow_name", " ", "_"
  ]
  lowercase => [ "message_flow_name" ]
}
mutate {
  rename => {
    "Message Flow Name" => "message_flow_name"
    "Input Message"     => "input_message"
    [...]
    "Accounting Origin" => "accounting_origin"
  }
}