MapReduce将文本数据导入到HBase中
admin
2023-02-08 10:40:02
0
  1. 整体描述:将本地文件的数据整理之后导入到hbase中

  2. 在HBase中创建表

    MapReduce将文本数据导入到HBase中

  3. 数据格式

    MapReduce将文本数据导入到HBase中

  4. MapReduce程序


    map程序


    package com.hadoop.mapreduce.test.map;
    
    import java.io.IOException;
    
    import org.apache.hadoop.io.Text;
    import org.apache.hadoop.mapreduce.Mapper;
    
    public class WordCountHBaseMapper extends Mapper{
        
        public Text keyValue = new Text();
        public Text valueValue = new Text();
        //数据类型为:key@addressValue#ageValue#sexValue
        @Override
        protected void map(Object key, Text value, Context context)
                throws IOException, InterruptedException {
            String lineValue = value.toString();
            
            if(lineValue != null){
                String[] valuesArray = lineValue.split("@");
                context.write(new Text(valuesArray[0]), new Text(valuesArray[1]));
            }
        }
    }

    Reduce程序


    package com.hadoop.mapreduce.test.reduce;
    
    import java.io.IOException;
    import java.util.Iterator;
    
    import org.apache.hadoop.hbase.client.Put;
    import org.apache.hadoop.hbase.mapreduce.TableReducer;
    import org.apache.hadoop.io.NullWritable;
    import org.apache.hadoop.io.Text;
    
    public class WordCountHBaseReduce extends TableReducer{
    
        @Override
        protected void reduce(Text key, Iterable value, Context out)
                throws IOException, InterruptedException {
            String keyValue = key.toString();
            Iterator valueIterator = value.iterator();
            while(valueIterator.hasNext()){
                Text valueV = valueIterator.next();
                String[] valueArray = valueV.toString().split("#");
                
                Put putRow = new Put(keyValue.getBytes());
                putRow.add("address".getBytes(), "baseAddress".getBytes(), 
                            valueArray[0].getBytes());
                putRow.add("sex".getBytes(), "baseSex".getBytes(), 
                            valueArray[1].getBytes());
                putRow.add("age".getBytes(), "baseAge".getBytes(), 
                            valueArray[2].getBytes());
                
                out.write(NullWritable.get(), putRow);
            }
        }
    }

    主程序



    package com.hadoop.mapreduce.test;
    
    import java.io.IOException;
    
    import org.apache.hadoop.conf.Configuration;
    import org.apache.hadoop.fs.Path;
    import org.apache.hadoop.hbase.HBaseConfiguration;
    import org.apache.hadoop.hbase.mapreduce.TableMapReduceUtil;
    import org.apache.hadoop.io.Text;
    import org.apache.hadoop.mapreduce.Job;
    import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
    
    import com.hadoop.mapreduce.test.map.WordCountHBaseMapper;
    import com.hadoop.mapreduce.test.reduce.WordCountHBaseReduce;
    
    /**
     * 将hdfs上的内容读取到,并插入到hbase的表中,然后读取hbase表中的内容,将统计结果插入到hbase中 
     */
    public class WordCountHBase {
        public static void main(String args[]) throws IOException, 
            InterruptedException, ClassNotFoundException{
            
            Configuration conf = HBaseConfiguration.create();
            conf.set("hbase.zookeeper.quorum", "192.168.192.137"); 
            Job job = Job.getInstance(conf, "MapReduceHbaseJob");
            //各种class
            job.setJarByClass(WordCountHBase.class);
            job.setMapperClass(WordCountHBaseMapper.class);
            TableMapReduceUtil.initTableReducerJob("userInfo3", 
                   WordCountHBaseReduce.class, job);
            
            FileInputFormat.addInputPath(job, new Path(args[0]));
            job.setMapOutputKeyClass(Text.class);
            job.setMapOutputValueClass(Text.class);
            
            System.exit(job.waitForCompletion(true) ? 0 : 1);
        }
    }

    结果:

    MapReduce将文本数据导入到HBase中

  5. 注:如果运行的client没有hbase,需要在hadoop里面的lib中加入hbase的lib

上一篇:HBase调研

下一篇:Summer School实验

相关内容

热门资讯

重磅消息“新青鸟拼三张.可以开... 网上科普关于“新青鸟拼三张有没有挂”话题很是火热,小编也是针对新青鸟拼三张作*弊开挂的方法以及开挂对...
终于了解“道游牛牛.怎么装挂?... 家人们!今天小编来为大家解答道游牛牛透视挂怎么安装这个问题咨询软件客服徽4282891的挂在哪里买很...
终于懂了“家乡大贰.怎么装挂?... 网上科普关于“家乡大贰有没有挂”话题很是火热,小编也是针对家乡大贰作*弊开挂的方法以及开挂对应的知识...
终于了解“新世界牛牛.到底是不... 终于了解“新世界牛牛.到底是不是挂?”确实真的有挂您好,新世界牛牛这个游戏其实有挂的,确实是有挂的,...
【今日要闻】“桂麻圈.可以开挂... 【今日要闻】“桂麻圈.可以开挂吗?”其实是有挂您好,桂麻圈这个游戏其实有挂的,确实是有挂的,需要了解...
今日重大发现“兴动竞赛.怎么装... 有 亲,根据资深记者爆料兴动竞赛是可以开挂的,确实有挂(咨询软件无需打开...
今日重大消息“天天福建麻将.有... 有 亲,根据资深记者爆料天天福建麻将是可以开挂的,确实有挂(咨询软件无需...
【第一资讯】“桃花庄.有没有挂... 【第一资讯】“桃花庄.有没有挂?”详细开挂教程您好,桃花庄这个游戏其实有挂的,确实是有挂的,需要了解...
今日重大消息“官方正版炸金花.... 您好:官方正版炸金花这款游戏可以开挂,确实是有挂的,需要了解加客服微信【9784099】很多玩家在这...
【今日要闻】“天天乐清麻将.到... 家人们!今天小编来为大家解答天天乐清麻将透视挂怎么安装这个问题咨询软件客服徽9784099的挂在哪里...