博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Mapperreduce的wordCount原理
阅读量:6429 次
发布时间:2019-06-23

本文共 3311 字,大约阅读时间需要 11 分钟。

wordcount原理:

1.mapper(Object key,Object value ,Context contex)阶段

2.从数据源读取一行数据传递给mapper函数的value

3.处理数据并将处理结果输出到reduce中去

String line = value.toString();

String[] words = line.split(" ");

context.write(word,1)

4.reduce(Object key ,List<value> values ,Context context)阶段

遍历values累加技术结果,并将数据输出

context.write(word,1)

  

代码示例:

Mapper类:

package com.hadoop.mr;import java.io.IOException;import org.apache.hadoop.io.LongWritable;import org.apache.hadoop.io.Text;import org.apache.hadoop.mapreduce.Mapper;/** * Mapper 
* Mapper
//hadoop对上边的数据类型进行了封装 * LongWritable(Long):偏移量 * Text(String):输入数据的数据类型 * Text(String):输出数据的key的数据类型 * LongWritable(Long):输出数据的key的数据类型 * @author shiwen */public class WordCountMapper extends Mapper
{ @Override protected void map(LongWritable key, Text value, Mapper
.Context context) throws IOException, InterruptedException { //1.读取一行 String line = value.toString(); //2.分割单词 String[] words = line.split(" "); //3.统计单词 for(String word : words){ //4.输出统计 context.write(new Text(word), new LongWritable(1)); } }}

reduce类

package com.hadoop.mr;import java.io.IOException;import org.apache.hadoop.io.LongWritable;import org.apache.hadoop.io.Text;import org.apache.hadoop.mapreduce.Reducer;public class WordCountReduce extends Reducer
{ @Override protected void reduce(Text key, Iterable
values, Reducer
.Context context) throws IOException, InterruptedException { long count = 0; //1.遍历vlues统计数据 for(LongWritable value : values){ count += value.get(); } //输出统计 context.write(key, new LongWritable(count)); }}

运行类:

package com.hadoop.mr;import java.io.IOException;import org.apache.hadoop.conf.Configuration;import org.apache.hadoop.fs.Path;import org.apache.hadoop.io.LongWritable;import org.apache.hadoop.mapreduce.Job;import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;import com.sun.jersey.core.impl.provider.entity.XMLJAXBElementProvider.Text;public class WordCountRunner {    public static void main(String[] args) throws IOException, ClassNotFoundException, InterruptedException {        //1.创建配置对象        Configuration config = new Configuration();        //2.Job对象        Job job = new Job(config);                //3.设置mapperreduce所在的jar包        job.setJarByClass(WordCountRunner.class);                //4.设置mapper的类        job.setMapOutputKeyClass(WordCountMapper.class);        //5.设置reduce的类        job.setReducerClass(WordCountReduce.class);                //6.设置reduce输入的key的数据类型        job.setOutputKeyClass(Text.class);        //7.设置reduce输出的value的数据类型        job.setOutputValueClass(LongWritable.class);                //8.设置输入的文件位置        FileInputFormat.setInputPaths(job, new Path("hdfs://192.168.1.10:9000/input"));        //9.设置输出的文件位置        FileOutputFormat.setOutputPath(job, new Path("hdfs://192.168.1.10:9000/input"));                //10.将任务提交给集群        job.waitForCompletion(true);            }}

 

转载于:https://www.cnblogs.com/zhangshiwen/p/4567898.html

你可能感兴趣的文章
paper 40 :鲁棒性robust
查看>>
做一个会使用PS的前端开发
查看>>
优化MySchool数据库(事务、视图、索引)
查看>>
硬件开发之pcb---PCB抗干扰设计原则
查看>>
关于字符串循环遍历的两种方法
查看>>
使用笔记:TF辅助工具--tensorflow slim(TF-Slim)
查看>>
CCF-NOIP-2018 提高组(复赛) 模拟试题(一)
查看>>
大话设计模式读书笔记3——单例模式
查看>>
Java多线程之ReentrantLock与Condition
查看>>
实验三
查看>>
Vue 项目构建
查看>>
[Ruby on Rails系列]2、开发环境准备:Ruby on Rails开发环境配置
查看>>
在反射中如何调用类中的Setter()AndGetter()方法
查看>>
android studio adb
查看>>
框架源码系列二:手写Spring-IOC和Spring-DI(IOC分析、IOC设计实现、DI分析、DI实现)...
查看>>
asp.net编译 懒人脚本
查看>>
二分答案经典入门题:)
查看>>
为什么你需要将代码迁移到ASP.NET Core 2.0?
查看>>
思杰的雄心——软件定义的工作空间
查看>>
Servlet的多线程和线程安全
查看>>