Amazon s3 由S3支持的HBase
我刚刚读到关于能够使用S3支持的HBase作为文件系统的内容。 我还从别处读到,S3是blob存储,缺乏附加到文件的功能。现在除去任何附加功能,我无法理解HBase如何使用S3作为底层文件系统。例如,当我向HBase添加一个新列时,S3层会发生什么? 请帮我解决我的困惑 谢谢,Amazon s3 由S3支持的HBase,amazon-s3,hbase,Amazon S3,Hbase,我刚刚读到关于能够使用S3支持的HBase作为文件系统的内容。 我还从别处读到,S3是blob存储,缺乏附加到文件的功能。现在除去任何附加功能,我无法理解HBase如何使用S3作为底层文件系统。例如,当我向HBase添加一个新列时,S3层会发生什么? 请帮我解决我的困惑 谢谢, Vivek如果添加一个小列,我的理解是HBase不会立即修改基线存储。 相反,hbase会1将添加的列/单元格持久写入预写日志,然后2还会修改memcache。 当memcache刷新到磁盘时,HBase才会以相对较大的
Vivek如果添加一个小列,我的理解是HBase不会立即修改基线存储。 相反,hbase会1将添加的列/单元格持久写入预写日志,然后2还会修改memcache。
当memcache刷新到磁盘时,HBase才会以相对较大的块修改底层数据,这非常适合S3和HDFS等存储实现。运行S3支持的HBase时,WAL仍会写入EMR群集的HDFS。因此,对于WAL,可以附加到文件中。如本文所述,对S3的写入是在大块中异步完成的,因此不需要附加到文件。