Warning: file_get_contents(/data/phpspider/zhask/data//catemap/0/amazon-s3/2.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Amazon s3 由S3支持的HBase_Amazon S3_Hbase - Fatal编程技术网

Amazon s3 由S3支持的HBase

Amazon s3 由S3支持的HBase,amazon-s3,hbase,Amazon S3,Hbase,我刚刚读到关于能够使用S3支持的HBase作为文件系统的内容。 我还从别处读到,S3是blob存储,缺乏附加到文件的功能。现在除去任何附加功能,我无法理解HBase如何使用S3作为底层文件系统。例如,当我向HBase添加一个新列时,S3层会发生什么? 请帮我解决我的困惑 谢谢, Vivek如果添加一个小列,我的理解是HBase不会立即修改基线存储。 相反,hbase会1将添加的列/单元格持久写入预写日志,然后2还会修改memcache。 当memcache刷新到磁盘时,HBase才会以相对较大的

我刚刚读到关于能够使用S3支持的HBase作为文件系统的内容。 我还从别处读到,S3是blob存储,缺乏附加到文件的功能。现在除去任何附加功能,我无法理解HBase如何使用S3作为底层文件系统。例如,当我向HBase添加一个新列时,S3层会发生什么? 请帮我解决我的困惑

谢谢,
Vivek

如果添加一个小列,我的理解是HBase不会立即修改基线存储。 相反,hbase会1将添加的列/单元格持久写入预写日志,然后2还会修改memcache。
当memcache刷新到磁盘时,HBase才会以相对较大的块修改底层数据,这非常适合S3和HDFS等存储实现。

运行S3支持的HBase时,WAL仍会写入EMR群集的HDFS。因此,对于WAL,可以附加到文件中。如本文所述,对S3的写入是在大块中异步完成的,因此不需要附加到文件。