Warning: file_get_contents(/data/phpspider/zhask/data//catemap/0/amazon-s3/2.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Amazon s3 MemSQL列存储表磁盘与内存_Amazon S3_Singlestore_Columnstore - Fatal编程技术网

Amazon s3 MemSQL列存储表磁盘与内存

Amazon s3 MemSQL列存储表磁盘与内存,amazon-s3,singlestore,columnstore,Amazon S3,Singlestore,Columnstore,我有一个带有8个m3.2x大叶节点(2x80 SSD,30GB RAM)的集群 关于我的数据: 我有一个数据库 我有一张桌子 我的数据驻留在s3中 S3文件大小为250GB 数据被拆分为40个6GB文件 当我尝试将此数据加载到表中时,在加载大约60GB(10个文件)的数据后,导入过程失败。此时,叶MemSQL内存几乎已满(212GB)。磁盘容量为1.64TB,但仅使用约150GB 据我所知,ColumnStore表驻留在磁盘中。如果是这样的话,为什么磁盘没有填满,而叶内存正在耗尽 需要注意的

我有一个带有8个m3.2x大叶节点(2x80 SSD,30GB RAM)的集群

关于我的数据:

  • 我有一个数据库
  • 我有一张桌子
  • 我的数据驻留在s3中
  • S3文件大小为250GB
  • 数据被拆分为40个6GB文件
当我尝试将此数据加载到表中时,在加载大约60GB(10个文件)的数据后,导入过程失败。此时,叶MemSQL内存几乎已满(212GB)。磁盘容量为1.64TB,但仅使用约150GB

据我所知,ColumnStore表驻留在磁盘中。如果是这样的话,为什么磁盘没有填满,而叶内存正在耗尽

需要注意的几点:

  • 导入过程不断尝试处理其余文件,并加载每个文件中的部分数据,但失败
  • 在8个叶节点中,只有2个完全填满了内存(30GB中有27个)。其余的大约为17GB
  • 我使用cloudformation设置集群,并设置了所有参数 设置为默认值
我是否配置不正确

感谢您的帮助

谢谢,
Ram。

您使用的是什么版本的MemSQL?我们正在进行POC,因此群集被终止。我现在不能查。。但我相信我们使用的是5.7版。我建议在v6 beta版上进行测试,在加载columnstore表的过程中内存使用情况应该更好。您应该发布用于表的DDL,以确认columnstore设置正确。