Hadoop 读取多个文件并压缩为单个文件

Hadoop 读取多个文件并压缩为单个文件,hadoop,Hadoop,Hadoop的新功能 数据正在加载到不同目录中的多个文件中。任务是读取多个文件并写入/压缩到单个文件。你能分享一下实现这项任务的最佳选择吗 使用并将结果导入 hadoop fs -cat /directorypath/*.txt | hadoop fs -put - outputfilepath.txt

Hadoop的新功能

数据正在加载到不同目录中的多个文件中。任务是读取多个文件并写入/压缩到单个文件。你能分享一下实现这项任务的最佳选择吗

使用并将结果导入

hadoop fs -cat /directorypath/*.txt | hadoop fs -put - outputfilepath.txt