12HDFS客户端操作（开发重点）

标签：depend   --   lse   有一个   开发   layout   运行时   默认   jar   

HDFS客户端环境准备

1．根据拷贝编译后的hadoop jar包到非中文路径

2．配置HADOOP_HOME环境变量

3. 配置Path环境变量

4．创建一个Maven工程HdfsClientDemo

5．导入相应的依赖坐标+日志添加

<dependencies>

    <dependency>

        <groupId>junit</groupId>

        <artifactId>junit</artifactId>

        <version>4.12</version>

    </dependency>

    <dependency>

        <groupId>org.apache.logging.log4j</groupId>

        <artifactId>log4j-slf4j-impl</artifactId>

        <version>2.12.0</version>

    </dependency>

    <dependency>

        <groupId>org.apache.hadoop</groupId>

        <artifactId>hadoop-client-api</artifactId>

        <version>3.1.3</version>

    </dependency>

    <dependency>

        <groupId>org.apache.hadoop</groupId>

        <artifactId>hadoop-client-runtime</artifactId>

        <version>3.1.3</version>

    </dependency>

</dependencies>

在项目的src/main/resources目录下，新建一个文件，命名为“log4j.xml”，在文件中填入

<?xml version="1.0" encoding="UTF-8"?>

<Configuration status="error" strict="true" name="XMLConfig">

    <Appenders>

        <!-- 类型名为Console，名称为必须属性 -->

        <Appender type="Console" name="STDOUT">

            <!-- 布局为PatternLayout的方式，

            输出样式为[INFO] [2018-01-22 17:34:01][org.test.Console]I‘m here -->

            <Layout type="PatternLayout"

                    pattern="[%p] [%d{yyyy-MM-dd HH:mm:ss}][%c{10}]%m%n" />

        </Appender>

    </Appenders>

    <Loggers>

        <!-- 可加性为false -->

        <Logger name="test" level="info" additivity="false">

            <AppenderRef ref="STDOUT" />

        </Logger>

        <!-- root loggerConfig设置 -->

        <Root level="info">

            <AppenderRef ref="STDOUT" />

        </Root>

    </Loggers>

</Configuration>

6．创建包名：com.atguigu.hdfs

7．创建HdfsClient类

public class HdfsClient{  

@Test

public void testMkdirs() throws IOException, InterruptedException, URISyntaxException{

      // 1 获取文件系统

      Configuration configuration = new Configuration();

      // 配置在集群上运行

      // configuration.set("fs.defaultFS", "hdfs://hadoop102:8020");

      // FileSystem fs = FileSystem.get(configuration);

      FileSystem fs = FileSystem.get(new URI("hdfs://hadoop102:8020"), configuration, "atguigu");

      // 2 创建目录

      fs.mkdirs(new Path("/1108/daxian/banzhang"));

      // 3 关闭资源

      fs.close();

   }

}

8．执行程序

运行时需要配置用户名称，如图3-7所示

图3-7  配置用户名称

客户端去操作HDFS时，是有一个用户身份的。默认情况下，HDFS客户端API会从JVM中获取一个参数来作为自己的用户身份：-DHADOOP_USER_NAME=atguigu，atguigu为用户名称。

12HDFS客户端操作（开发重点）

标签：depend   --   lse   有一个   开发   layout   运行时   默认   jar   

原文地址：https://www.cnblogs.com/zwy008/p/14854535.html