基本的文件系统命令操作, 通过hadoop fs-help可以获取所有的命令的详细帮助文件。
Java抽象类org.apache.hadoop.fs.FileSystem定义了hadoop的一个文件系统接口。Hadoop中关于文件操作类基本上全部是在"org.apache.hadoop.fs"包中，这些API能够支持的操作包含：打开文件，读写文件，删除文件等。
Hadoop类库中最终面向用户提供的接口类是FileSystem，该类是个抽象类，只能通过来类的get方法得到具体类。
构造方法
该类是一个抽象类，通过以下两种静态工厂方法可以过去FileSystem实例：
public staticFileSystem.get(Configuration conf) throws IOException
public staticFileSystem.get(URI uri, Configuration conf) throws IOException
具体方法实现
1、publicboolean mkdirs(Path f) throws IOException
一次性新建所有目录（包括父目录）， f是完整的目录路径。
2、publicFSOutputStream create(Path f) throws IOException
创建指定path对象的一个文件，返回一个用于写入数据的输出流
create()有多个重载版本，允许我们指定是否强制覆盖已有的文件、文件备份数量、写入文件缓冲区大小、文件块大小以及文件权限。
3、publicboolean copyFromLocal(Path src, Path dst) throws IOException
将本地文件拷贝到文件系统
4、publicboolean exists(Path f) throws IOException
检查文件或目录是否存在
5、publicboolean delete(Path f, Boolean recursive)
永久性删除指定的文件或目录，如果f是一个空目录或者文件，那么recursive的值就会被忽略。只有recursive＝true时，一个非空目录及其内容才会被删除。
6、FileStatus类封装了文件系统中文件和目录的元数据，包括文件长度、块大小、备份、修改时间、所有者以及权限信息。
通过"FileStatus.getPath（）"可查看指定HDFS中某个目录下所有文件。
packagehdfsTest;
importjava.io.IOException;
importorg.apache.hadoop.conf.Configuration;
importorg.apache.hadoop.fs.FSDataOutputStream;
importorg.apache.hadoop.fs.FileStatus;
importorg.apache.hadoop.fs.FileSystem;
importorg.apache.hadoop.fs.Path;
public classOperatingFiles {
//initialization
static Configuration conf = newConfiguration();
static FileSystem hdfs;
static {
String path = "/usr/java/hadoop-1.0.3/conf/" ;
conf.addResource(newPath(path + "core-site.xml" ));
conf.addResource(newPath(path + "hdfs-site.xml" ));
conf.addResource(newPath(path + "mapred-site.xml" ));
path = "/usr/java/hbase-0.90.3/conf/" ;
conf.addResource(newPath(path + "hbase-site.xml" ));
try {
hdfs =FileSystem.get(conf);
} catch (IOException e) {
e.printStackTrace();
}
}
//create a direction
public void createDir(String dir) throws IOException {
Path path = new Path(dir);
hdfs.mkdirs(path);
System.out.println( "newdir \t" + conf.get( "fs.default.name" ) + dir);
}
//copy from local file to HDFS file
public void copyFile(String localSrc,String hdfsDst) throws IOException{
Path src = newPath(localSrc);
Path dst = new Path(hdfsDst);
hdfs.copyFromLocalFile(src,dst);
//list all the files in thecurrent direction
FileStatus files[] =hdfs.listStatus(dst);
System.out.println( "Uploadto \t" + conf.get( "fs.default.name" ) + hdfsDst);
for (FileStatus file : files){
System.out.println(file.getPath());
}
}
//create a new file
public void createFile(String fileName,String fileContent) throws IOException {
Path dst = newPath(fileName);
byte [] bytes =fileContent.getBytes();
FSDataOutputStream output =hdfs.create(dst);
output.write(bytes);
System.out.println( "newfile \t" + conf.get( "fs.default.name" ) + fileName);
}
//list all files
public void listFiles(String dirName) throws IOException {
Path f = new Path(dirName);
FileStatus[] status =hdfs.listStatus(f);
System.out.println(dirName + " has all files:" );
for ( int i = 0 ; i<status.length; i++) {
System.out.println(status[i].getPath().toString());
}
}
//judge a file existed? and delete it!
public void deleteFile(String fileName) throws IOException {
Path f = new Path(fileName);
boolean isExists =hdfs.exists(f);
if (isExists) { //if exists, delete
boolean isDel =hdfs.delete(f, true );
System.out.println(fileName+ " delete? \t" + isDel);
} else {
System.out.println(fileName+ " exist? \t" + isExists);
}
}
public static void main(String[] args) throws IOException {
OperatingFiles ofs = newOperatingFiles();
System.out.println( "\n=======createdir=======" );
String dir = "/test" ;
ofs.createDir(dir);
System.out.println( "\n=======copyfile=======" );
String src = "/home/ictclas/Configure.xml" ;
ofs.copyFile(src, dir);
System.out.println( "\n=======createa file=======" );
String fileContent = "Hello, world! Just a test." ;
ofs.createFile(dir+ "/word.txt" ,fileContent);
}
}
|
上传本地文件
通过"FileSystem.copyFromLocalFile（Path src，Patch dst）"可将本地文件上传到HDFS的制定位置上，其中src和dst均为文件的完整路径。具体事例如下：
packagecom.hebut.file;
importorg.apache.hadoop.conf.Configuration;
importorg.apache.hadoop.fs.FileStatus;
importorg.apache.hadoop.fs.FileSystem;
importorg.apache.hadoop.fs.Path;
public classCopyFile {
public static void main(String[] args) throws Exception {
Configuration conf= new Configuration();
FileSystem hdfs=FileSystem.get(conf);
//本地文件
Path src =newPath( "D:\\HebutWinOS" );
//HDFS为止
Path dst = new Path( "/" );
hdfs.copyFromLocalFile(src, dst);
System.out.println( "Uploadto" +conf.get( "fs.default.name" ));
FileStatusfiles[]=hdfs.listStatus(dst);
for (FileStatus file:files){
System.out.println(file.getPath());
}
}
}
|
运行结果可以通过控制台、项目浏览器和Linux查看，如图所示。
1、控制台结果
2、项目浏览器
3、linux结果详情
创建HDFS文件
FileSystem.create（Path f）"可在HDFS上创建文件，其中f为文件的完整路径。具体实现如下：
package com.hebut.file;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataOutputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
public class CreateFile {
public static void main(String[] args) throws Exception {
Configuration conf= new Configuration();
FileSystem hdfs=FileSystem.get(conf);
byte [] buff= "hello hadoop world!\n" .getBytes();
Path dfs= new Path( "/test" );
FSDataOutputStream outputStream=hdfs.create(dfs);
outputStream.write(buff, 0 ,buff.length);
}
}
|
运行结果如图所示。
1）项目浏览器
2）Linux结果
创建HDFS目录
FileSystem.mkdirs（Path f）"可在HDFS上创建文件夹，其中f为文件夹的完整路径。具体实现如下：
package com.hebut.dir;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
public class CreateDir {
public static void main(String[] args) throws Exception{
Configuration conf= new Configuration();
FileSystem hdfs=FileSystem.get(conf);
Path dfs= new Path( "/TestDir" );
hdfs.mkdirs(dfs);
}
}
|
运行结果如图所示。
1）项目浏览器
2）Linux结果
重命名HDFS文件
FileSystem.rename（Path src，Path dst）"可为指定的HDFS文件重命名，其中src和dst均为文件的完整路径。具体实现如下：
package com.hebut.file;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
public class Rename{
public static void main(String[] args) throws Exception {
Configuration conf= new Configuration();
FileSystem hdfs=FileSystem.get(conf);
Path frpaht= new Path( "/test" ); //旧的文件名
Path topath= new Path( "/test1" ); //新的文件名
boolean isRename=hdfs.rename(frpaht, topath);
String result=isRename? "成功" : "失败" ;
System.out.println( "文件重命名结果为：" +result);
}
}
|
运行结果如图所示。
1）项目浏览器
2）Linux结果 
删除HDFS上的文件
FileSystem.delete（Path f，Boolean recursive）"可删除指定的HDFS文件，其中f为需要删除文件的完整路径，recuresive用来确定是否进行递归删除。具体实现如下：
package com.hebut.file;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
public class DeleteFile {
public static void main(String[] args) throws Exception {
Configuration conf= new Configuration();
FileSystem hdfs=FileSystem.get(conf);
Path delef= new Path( "/test1" );
boolean isDeleted=hdfs.delete(delef, false );
//递归删除
//boolean isDeleted=hdfs.delete(delef,true);
System.out.println( "Delete?" +isDeleted);
}
}
|
运行结果如图所示。
1）控制台结果
2）项目浏览器
删除HDFS上的目录
删除文件代码一样，只是换成删除目录路径即可，如果目录下有文件，要进行递归删除。
查看某个HDFS文件是否存在
FileSystem.exists（Path f）"可查看指定HDFS文件是否存在，其中f为文件的完整路径。具体实现如下：
package com.hebut.file;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
public class CheckFile {
public static void main(String[] args) throws Exception {
Configuration conf= new Configuration();
FileSystem hdfs=FileSystem.get(conf);
Path findf= new Path( "/test1" );
boolean isExists=hdfs.exists(findf);
System.out.println( "Exist?" +isExists);
}
}
|
运行结果如图所示。
1）控制台结果
2）项目浏览器
查看HDFS文件的最后修改时间
FileSystem.getModificationTime()"可查看指定HDFS文件的修改时间。具体实现如下：
package com.hebut.file;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileStatus;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
public class GetLTime {
public static void main(String[] args) throws Exception {
Configuration conf= new Configuration();
FileSystem hdfs=FileSystem.get(conf);
Path fpath = new Path( "/user/hadoop/test/file1.txt" );
FileStatus fileStatus=hdfs.getFileStatus(fpath);
long modiTime=fileStatus.getModificationTime();
System.out.println( "file1.txt的修改时间是" +modiTime);
}
}
|
运行结果如图所示。
读取HDFS某个目录下的所有文件
FileStatus.getPath（）"可查看指定HDFS中某个目录下所有文件。具体实现如下：
package com.hebut.file;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileStatus;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
public class ListAllFile {
public static void main(String[] args) throws Exception {
Configuration conf= new Configuration();
FileSystem hdfs=FileSystem.get(conf);
Path listf = new Path( "/user/hadoop/test" );
FileStatus stats[]=hdfs.listStatus(listf);
for ( int i = 0 ; i < stats.length; ++i)
{
System.out.println(stats[i].getPath().toString());
}
hdfs.close();
}
}
|
运行结果如图所示。
1）控制台结果
2）项目浏览器
查找某个文件在HDFS集群的位置
FileSystem.getFileBlockLocation（FileStatus file，long start，long len）"可查找指定文件在HDFS集群上的位置，其中file为文件的完整路径，start和len来标识查找文件的路径。具体实现如下：
package com.hebut.file;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.BlockLocation;
import org.apache.hadoop.fs.FileStatus;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
public class FileLoc {
public static void main(String[] args) throws Exception {
Configuration conf= new Configuration();
FileSystem hdfs=FileSystem.get(conf);
Path fpath= new Path( "/user/hadoop/cygwin" );
FileStatus filestatus = hdfs.getFileStatus(fpath);
BlockLocation[] blkLocations = hdfs.getFileBlockLocations(filestatus, 0 , filestatus.getLen());
int blockLen = blkLocations.length;
for ( int i= 0 ;i
String[] hosts = blkLocations[i].getHosts();
System.out.println( "block_" +i+ "_location:" +hosts[ 0 ]);
}
}
}
|
运行结果如图所示。
1）控制台结果
2）项目浏览器
获取HDFS集群上所有节点名称信息
DatanodeInfo.getHostName（）"可获取HDFS集群上的所有节点名称。具体实现如下：
package com.hebut.file;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.hdfs.DistributedFileSystem;
import org.apache.hadoop.hdfs.protocol.DatanodeInfo;
public class GetList {
public static void main(String[] args) throws Exception {
Configuration conf= new Configuration();
FileSystem fs=FileSystem.get(conf);
DistributedFileSystem hdfs = (DistributedFileSystem)fs;
DatanodeInfo[] dataNodeStats = hdfs.getDataNodeStats();
for ( int i= 0 ;ilength;i++){
System.out.println( "DataNode_" +i+ "_Name:" +dataNodeStats[i].getHostName());
}
}
}
|
运行结果如图所示。
