• 大小: 33KB
    文件类型: .rar
    金币: 1
    下载: 0 次
    发布日期: 2021-06-11
  • 语言: 其他
  • 标签: MapReduce  

资源简介

使用hadoop的eclipse插件开发的mapreduce程序,实现对数据的简单统计处理,包括可视化结果

资源截图

代码片段和文件信息

package call_key;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.Reducer;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;
import org.apache.hadoop.util.GenericOptionsParser;

public class Call_analysis_driver {

static {  
        try {  
            System.load(“C:/hadoop/bin/hadoop.dll“);  
        } catch (UnsatisfiedlinkError e) {  
          System.err.println(“Native code library failed to load.\n“ + e);  
          System.exit(1);  
        }  
      }

public static void main(String[] args) throws Exception {
Configuration conf = new Configuration();

//修改job名字
Job job = Job.getInstance(conf “Call date“);
job.setJarByClass(call_key.Call_analysis_driver.class);


//修改map和reduce的class
job.setMapperClass(Call_date_map.class);
job.setReducerClass(Count_number_reduce.class);

//修改输出类型
job.setOutputKeyClass(Text.class);
job.setOutputValueClass(IntWritable.class);

//修改输出路径
FileInputFormat.setInputPaths(job new Path(“hdfs://192.168.60.100:8020/call/key/input“));
FileOutputFormat.setOutputPath(job new Path(“hdfs://192.168.60.100:8020/call/key/call_date“));

if (!job.waitForCompletion(true))
return;
}

}

 属性            大小     日期    时间   名称
----------- ---------  ---------- -----  ----

     文件      32716  2018-04-28 17:03  call_key.xlsx

     文件        442  2018-04-25 19:44  log4j.properties

     文件      25812  2018-04-28 23:38  有关114查询的数据例子.txt

     文件       1558  2018-04-28 16:37  call_key\Call_analysis_driver.java

     文件       1310  2018-04-28 16:45  call_key\Call_date_map.java

     文件        875  2018-04-28 15:24  call_key\Call_distribution_map.java

     文件       1148  2018-04-28 16:13  call_key\Call_time_map.java

     文件        719  2018-04-28 15:24  call_key\Count_number_reduce.java

     目录          0  2018-04-28 16:31  call_key

----------- ---------  ---------- -----  ----

                64580                    9


评论

共有 条评论