4、Intelij+Maven搭建Hadoop项目
admin
2023-01-23 13:21:38
0

1创建工程

点击project——Maven——next
4、Intelij+Maven搭建Hadoop项目

2通过maven导入项目依赖jar包

(1)设置maven自动导入依赖jar包
4、Intelij+Maven搭建Hadoop项目
4、Intelij+Maven搭建Hadoop项目
勾选 Import Maven projects automatically,点击apply
(2)配置pom.xml文件
4、Intelij+Maven搭建Hadoop项目

pom.xml配置文件如下:



    4.0.0

    com.kaikeba.hadoop
    com.kaikeba.hadoop
    1.0-SNAPSHOT
    jar

    
        2.7.3
    
    
        
            commons-cli
            commons-cli
            1.2
        
        
            commons-logging
            commons-logging
            1.1.3
        
        
            org.apache.hadoop
            hadoop-mapreduce-client-jobclient
            ${hadoop.version}
        

        
            org.apache.hadoop
            hadoop-common
            ${hadoop.version}
        

        
        
        
        
        
        

        
            org.apache.hadoop
            hadoop-hdfs
            2.7.3
        

        
            org.apache.hadoop
            hadoop-hdfs
            ${hadoop.version}
        

        
            org.apache.hadoop
            hadoop-mapreduce-client-app
            ${hadoop.version}
        

        
            org.apache.hadoop
            hadoop-mapreduce-client-hs
            ${hadoop.version}
        

        
        
        
        
        
        
        
        
        
        
    

3编写HDFS读写程序

****把本地文件传输到HDFS****
package com.kaikeba.hadoop.hdfs;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;
import java.io.*;
import java.net.URI;
/**
 * 将本地文件系统的文件通过java-API写入到HDFS文件
 */
public class FileCopyFromLocal {

    public static void main(String[] args)  {
        String source  = "E:\\aa.mp4";
        //获取/data的m目录存在(根据自己的环境更改)
        String  destination = "hdfs://122.51.241.109:9000/data/hdfs01.mp4";
        InputStream in  = null;
        try {
            in  = new BufferedInputStream(new FileInputStream(source));
            //HDFS读写的配置文件
            Configuration conf = new Configuration();
            //生成一个文件系统对象
            FileSystem fs = FileSystem.get(URI.create(destination),conf);
            //生成一个输出流
            OutputStream out = fs.create(new Path(destination));
            IOUtils.copyBytes(in, out, 4096, true);
        } catch (FileNotFoundException e) {
            e.printStackTrace();
        } catch (IOException e) {
            e.printStackTrace();
        }
    }
}
**把HDFS中的文件传输到本地**
package com.kaikeba.hadoop.hdfs;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataInputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IOUtils;

import java.io.BufferedOutputStream;
import java.io.FileOutputStream;
import java.io.IOException;
import java.net.URI;

/**
 * 从HDFS读取文件
 * 打包运行jar包 [bruce@node-01 Desktop]$ hadoop jar com.kaikeba.hadoop-1.0-SNAPSHOT.jar  com.kaikeba.hadoop.hdfs.FileReadFromHdfs
 */
public class FileReadFromHdfs {

    public static void main(String[] args) {
        try {
            //
            String srcFile = "hdfs://122.51.241.109:9000/data/hdfs01.mp4";
            Configuration conf = new Configuration();

            FileSystem fs = FileSystem.get(URI.create(srcFile),conf);
            FSDataInputStream hdfsInStream = fs.open(new Path(srcFile));

            BufferedOutputStream outputStream = new BufferedOutputStream(new FileOutputStream("/opt/hdfs01.mp4"));

            IOUtils.copyBytes(hdfsInStream, outputStream, 4096, true);

        } catch (IOException e) {
            e.printStackTrace();
        }
    }
}

4通过运行jar包的方式验证

双击package
4、Intelij+Maven搭建Hadoop项目
4、Intelij+Maven搭建Hadoop项目
生成com.kaikeba.hadoop-1.0-SNAPSHOT.jar,考入到服务器中执行
执行命令:hadoop jar com.kaikeba.hadoop-1.0-SNAPSHOT.jar com.kaikeba.hadoop.hdfs.FileReadFromHdfs
注意: com.kaikeba.hadoop.hdfs.FileReadFromHdfs是全类名,根据自己的项目更改。

相关内容

热门资讯

弗朗茨别墅家用电梯获德国莱茵T... 在别墅家用电梯行业从“功能满足”迈向“品质生活”的转型期,一个品牌的战略定力往往决定了它能走多远。弗...
一元复始 万象AI!2026智... 7月22日,2026人工智能产品应用博览会(以下简称“2026智博会”)新闻发布会在苏州工业园区举行...
怕失焦?蓝白周六上凯道反毒油,... 中联毒油案引发全台民众食安疑虑,国民党发起25日上凯道抗争,当天一早将先举行全代会,晚间6点前往凯道...
原创 为... 把一只穴兔和一只野兔摆在一起,长耳朵短尾巴,普通人根本分不出谁是谁。可就是这两只看着一模一样的兔子,...
AMD推出Helios机架AI... 据香港IDC新天域互联了解,历经十年技术深耕,芯片巨头AMD正式推出首款机架级AI系统Helios,...
原创 卡... 在高端新材料圈子里,碳纤维一直有个响亮外号——黑色黄金。轻得像羽毛,硬度远超钢材,航空航天、飞行器、...
iPhone 18 Pro系列... 快科技7月22日消息,据最新爆料,iPhone 18 Pro和iPhone 18 Pro Max将沿...
普京:困难是暂时的 在乌克兰利用无人机持续打击俄境内能源设施的背景下,俄罗斯总统普京在克里姆林宫召开经济问题会议。俄新社...
“打压中企,欧盟将自损400亿... 当地时间7月22日,美国“政客新闻网”欧洲版(POLITIO EU)援引知名行业机构全球移动通信系统...
蓝营青年绝食抗议毒油,“独派”... 图注:民众党议员陈世轩22日率新北队议员参选人声援4位蓝营绝食者。中国台湾网7月22日讯 为抗议民进...