Hadoop s3n/s3a如何管理文件?
我一直在使用Kafka Connect等服务将拼花文件持久化到S3。我对HDFS或Hadoop不是很熟悉,但看起来这些服务通常会在批量写入s3之前将临时文件写入本地内存或磁盘。s3n/s3a文件系统是否在本地虚拟化HDFS样式的文件系统,然后按配置的间隔推送,或者对s3n/s3a的写入和对s3的写入之间是否存在一对一的对应关系Hadoop s3n/s3a如何管理文件?,hadoop,amazon-s3,hdfs,apache-kafka,Hadoop,Amazon S3,Hdfs,Apache Kafka,我一直在使用Kafka Connect等服务将拼花文件持久化到S3。我对HDFS或Hadoop不是很熟悉,但看起来这些服务通常会在批量写入s3之前将临时文件写入本地内存或磁盘。s3n/s3a文件系统是否在本地虚拟化HDFS样式的文件系统,然后按配置的间隔推送,或者对s3n/s3a的写入和对s3的写入之间是否存在一对一的对应关系 我不完全确定我问的问题是否正确。任何指导都将不胜感激。
我不完全确定我问的问题是否正确。任何指导都将不胜感激。