Database 您将使用什么数据库进行日志记录(即als日志文件替换)
在使用grep之类的工具分析了一些千兆字节的日志文件之后,我想知道如何通过使用数据库将这些文件记录到日志中来简化这一过程。什么数据库适合这个用途?当然,一个vanillia SQL数据库可以工作,但它提供了很多事务性保证等,这在这里是不需要的,如果使用千兆字节的数据和非常快的插入速率,那么它可能会变得很慢。因此,NoSQL数据库可能是正确的答案(比较一些建议)。对数据库的一些要求是:Database 您将使用什么数据库进行日志记录(即als日志文件替换),database,logging,nosql,Database,Logging,Nosql,在使用grep之类的工具分析了一些千兆字节的日志文件之后,我想知道如何通过使用数据库将这些文件记录到日志中来简化这一过程。什么数据库适合这个用途?当然,一个vanillia SQL数据库可以工作,但它提供了很多事务性保证等,这在这里是不需要的,如果使用千兆字节的数据和非常快的插入速率,那么它可能会变得很慢。因此,NoSQL数据库可能是正确的答案(比较一些建议)。对数据库的一些要求是: 能够处理千兆字节甚至千兆字节的数据 快速插入 每个条目上应该可以有多个索引(例如时间、会话id、URL等) 如
- 能够处理千兆字节甚至千兆字节的数据
- 快速插入
- 每个条目上应该可以有多个索引(例如时间、会话id、URL等)
- 如果可能的话,它会以压缩的形式存储数据,因为日志文件通常非常重复
更新:关于此:和,已经有一些SO问题。但是,我很好奇哪些数据库满足哪些要求。根据您的需要可能是一个不错的选择。它不仅仅是一个数据库,你还可以得到各种各样的报告。另外,它被设计成日志文件的替代品,因此他们已经解决了缩放问题。有许多不同的选项,您可以研究。您可以使用它进行分析,并使用和加载日志文件。MongoDB也可能是一个不错的选择,看看这篇关于的文章在尝试了很多nosql解决方案之后,我的最佳选择是:
- riak+riak搜索可实现极大的可扩展性
- mysql/postgresql中的非规范化数据
- mongoDB如果你不介意等的话
- 如果你知道你在找什么