Parsing 将带有Logstash的Apache日志导入到大查询

Parsing 将带有Logstash的Apache日志导入到大查询,parsing,logstash,Parsing,Logstash,我正在尝试将Apache日志文件上传到Big Query中。 我已经安装了logstash和contrib插件(用于大查询) 配置stdin/stdout时,我看到所有字段都具有良好的解析能力。 当我配置stdin/output大查询时,我在大查询中有行 但是,当我配置输入文件和输出大查询时,我没有任何东西进入BQ。 我没有任何错误 这是我的日志文件(/logfile/toto.log): 9.219.129.178--[24/Aug/2014:06:33:20+0200]“GET/2011/0

我正在尝试将Apache日志文件上传到Big Query中。 我已经安装了logstash和contrib插件(用于大查询)

配置stdin/stdout时,我看到所有字段都具有良好的解析能力。 当我配置stdin/output大查询时,我在大查询中有行

但是,当我配置输入文件和输出大查询时,我没有任何东西进入BQ。 我没有任何错误

这是我的日志文件(/logfile/toto.log): 9.219.129.178--[24/Aug/2014:06:33:20+0200]“GET/2011/03/HTTP/1.1”200 7478“-”Mozilla/5.0(Windows;U;Windows NT 6.0;de;rv:1.9.2.3)Gecko/20100401 Firefox/3.6.3(.NET CLR 3.5.30729)

如果你有任何想法。非常感谢

这是我的logstash配置

输入{
文件{
path=>“/logfile/toto.log”
开始位置=>开始位置
排除=>“*.gz”
}
}
滤器{
格罗克{
匹配=>{“消息”=>“%{CombinedAppachelog}”
}
日期{
匹配=>[“时间戳”,“dd/MMM/yyyy:HH:mm:ss Z”]
语言环境=>“en”
删除_字段=>[“时间戳”]
}
}
输出{
谷歌大查询{
项目id=>“焦糖源-750”
数据集=>“日志”
csv_schema=>“消息:字符串,版本:字符串,时间戳:字符串,主机:字符串,路径:字符串,客户端:字符串,标识:字符串,身份:字符串,动词:字符串,请求:字符串,httpversion:字符串,响应:字符串,字节:字符串,引用者:字符串,代理:字符串”
key_path=>“/var/www/API Project XXX.p12”
密钥\密码=>“notasecret”
服务帐户=>”XXX@developer.gserviceaccount.com"
临时目录=>“/tmp/logstash bq”
临时文件前缀=>“日志存储文件”
日期模式=>%Y-%m-%dT%H:00
刷新间隔秒=>2
上传器\u间隔\u秒=>30
删除时间间隔>30秒
}

}
您是否验证了Logstash是否正确处理了日志,并且问题出在
google\u bigquery
插件上?在尝试将消息发送到其他任何地方之前,我总是使用
stdout
输出来验证消息是否正确通过管道。日志中有什么有趣的东西吗?如果您使用
--verbose
甚至
--debug
启动日志存储,会怎么样?没有任何附加内容。我有很多日志:检测文件ok,grok加载模式ok,管道启动。什么都没有之后,新的数据被附加到文件中?当我添加一些数据时,它们到达了BQ。谢谢。是的,女士:)