时间:2024-10-22 18:01:19
hdfs复制命令
HDFS复制命令主要有两个:
1. get命令:使用方法为`hadoop fs -get [-ignorecrc] [-crc] `。这个命令可以将文件复制到本地文件系统。通过`-ignorecrc`选项,可以复制CRC校验失败的文件。通过`-crc`选项,可以复制文件以及CRC信息。例如,`hadoop fs -get /user/hadoop/file localfile`和`hadoop fs -get hdfs://host:port/user/hadoop/file localfile`。
2. copyToLocal命令:使用方法为`hadoop fs -copyToLocal [-ignorecrc] [-crc] URI`。这个命令除了限定目标路径是一个本地文件外,和get命令类似。
另外,还可以使用`hadoop distcp`命令进行文件复制。例如,`hadoop distcp -update -skipcrccheck -m 300 hdfs://ns1/warehouse/ods.db/t2 hdfs://ns1/warehouse/bkdata.db/t1`。