如果特定元组有许多维度,并且需要非常快的读写速度[mongodb、columner DB、mysql或任何其他]

如果特定元组有许多维度,并且需要非常快的读写速度[mongodb、columner DB、mysql或任何其他],mysql,mongodb,graph-databases,database,nosql,Mysql,Mongodb,Graph Databases,Database,Nosql,我想在lighting speed中检索数据,以用于我的分析解决方案。此问题如下。 我每15分钟处理大量数据,并创建不同的多维数据集(元组),其中包含大量不同的维度。详细地说,我正在分离100个国家X 10000个州X 5000个电视频道X 999个节目X。。。X 15分钟的时间间隔。所以每15分钟就会产生很多不同的元组。目前我正在使用Mysql数据库,并通过文件转储数据,因此编写速度要快得多。对于15分钟、1小时、1天、1周、1个月、1年粒度的聚合表,我也有不同的表,用于不同类型的查询。但在检

我想在lighting speed中检索数据,以用于我的分析解决方案。此问题如下。 我每15分钟处理大量数据,并创建不同的多维数据集(元组),其中包含大量不同的维度。详细地说,我正在分离100个国家X 10000个州X 5000个电视频道X 999个节目X。。。X 15分钟的时间间隔。所以每15分钟就会产生很多不同的元组。目前我正在使用Mysql数据库,并通过文件转储数据,因此编写速度要快得多。对于15分钟、1小时、1天、1周、1个月、1年粒度的聚合表,我也有不同的表,用于不同类型的查询。但在检索时需要花费大量时间[即使在对数据库表进行了最佳索引之后。]

有谁能为我提供这个问题的解决方案吗?如果可能区分NoSql和MySql数据库

我正在以服务器日志的形式获取简单txt文件中的数据。它是由我的java web服务应用程序使用日志功能生成的。像这样迪曼特·杰斯瓦尔13分钟前
正如我提到的,我每15分钟处理一次这些日志,并将其保存到mysql数据库表中,在这段时间内对相同的维度进行聚合,从而创建不同的维度(例如,在1小时内,将有4个15分钟的维度进行聚合,以创建1个维度。更详细地说,我正在创建一个维度[/Object]比如时间=2012-11-16 10:00:00,国家=US',地点=X',His=15;另一个时间=2012-11-16 10:15:00,国家=US',地点=X',His=67)。然后,这些值被传递到数据库表中。因此,我可以在一小时、15分钟或一天内随时检索数据

选择正确的数据库解决方案始终取决于数据的结构。你能详细说明一下吗?你好,Philipp,我正在以简单的txt文件作为服务器日志获取数据。它是由我的java web服务应用程序使用日志功能生成的。就像这样……正如我所提到的,我每15分钟处理一次这些日志,并将其保存到mysql数据库表中,在这段时间内对相同的维度进行聚合,从而创建不同的维度(例如,在1小时内,将有4个15分钟的维度进行聚合,以创建一个维度,更详细地说,我正在创建一个维度[/Object]比如时间=2012-11-16 10:00:00,国家=US',地点=X',His=15;另一个时间=2012-11-16 10:15:00,国家=US',地点=X',His=67)。然后,这些值被传递到数据库表中。所以我可以在一小时、15分钟或一天内随时检索数据…谢谢。您应该编辑您的问题以添加该信息。您是否可以修改java应用程序以将其推送到db或队列系统(ZeroMQ或RabbitMq)中?批处理作业每15分钟运行一次对于数据库来说并不少见。你能提供更多关于物体大小的信息吗?以后是否更新特定的插入/对象?您多久查询一次这些数据?(只进行一次增量M/R更新?)