「java型参为map」java有参

博主:adminadmin 2022-11-29 22:33:10 58

今天给各位分享java型参为map的知识,其中也会对java有参进行解释,如果能碰巧解决你现在面临的问题,别忘了关注本站,现在开始吧!

本文目录一览:

Java中如何把字符串转换成map

1、使用fastJson 将String转 map:

String out;

Object succesResponse = JSON.parse(out);    //先转换成Object

Map map = (Map)succesResponse;         //Object强转换为Map

2、String 转 java 对象

fastjson 应用 string字符串转换成java对象或者对象数组

代码如下

JAVA中String如何转为Map

可以直接使用timestamp.valueof将string转换为timestamp,参考代码如下:

string

tsstr

=

“2011-05-09

11:49:45″;

try

{

timestamp

ts

=

timestamp.valueof(tsstr);

system.out.println(ts);

}

catch

(exception

e)

{

e.printstacktrace();

}

注:string的类型必须形如:

yyyy-mm-dd

hh:mm:ss[.f...]

这样的格式,中括号表示可选,否则报错。如果string为其他格式,可考虑重新解析下字符串后再转换。

如何将java类对象作为mapreduce中map函数的输入?

1.首先介绍一下wordcount 早mapreduce框架中的 对应关系

大家都知道 mapreduce 分为 map 和reduce 两个部分,那么在wordcount例子中,很显然 对文件word 计数部分为map,对 word 数量累计部分为 reduce;

大家都明白 map接受一个参数,经过map处理后,将处理结果作为reduce的入参分发给reduce,然后在reduce中统计了word 的数量,最终输出到输出结果;

但是初看遇到的问题:

一、map的输入参数是个 Text之类的 对象,并不是 file对象

二、reduce中并没有if-else之类的判断语句 ,来说明 这个word 数量 加 一次,那个word 加一次。那么这个判断到底只是在 map中已经区分了 还是在reduce的时候才判断的

三、map过程到底做了什么,reduce过程到底做了什么?为什么它能够做到多个map多个reduce?

一、

1. 怎么将 文件参数 传递 到 job中呢?

在 client 我们调用了FileInputFormat.addInputPath(job, new Path(otherArgs[0]));

实际上 addInputPath 做了以下的事情(将文件路径加载到了conf中)

public static void addInputPath(Job job,

Path path) throws IOException {

Configuration conf = job.getConfiguration();

path = path.getFileSystem(conf).makeQualified(path);

String dirStr = StringUtils.escapeString(path.toString());

String dirs = conf.get(INPUT_DIR);

conf.set(INPUT_DIR, dirs == null ? dirStr : dirs + "," + dirStr);

}

我们再来看看 FileInputFormat 是做什么用的, FileInputFormat 实现了 InputFormat 接口 ,这个接口是hadoop用来接收客户端输入参数的。所有的输入格式都继承于InputFormat,这是一个抽象类,其子类有专门用于读取普通文件的FileInputFormat,用来读取数据库的DBInputFormat等等。

我们会看到 在 InputFormat 接口中 有getSplits方法,也就是说分片操作实际上实在 map之前 就已经做好了

ListInputSplitgetSplits(JobContext job)

Generate the list of files and make them into FileSplits.

具体实现参考 FileInputFormat getSplits 方法:

上面是FileInputFormat的getSplits()方法,它首先得到分片的最小值minSize和最大值maxSize,它们会被用来计算分片大小。可以通过设置mapred.min.split.size和mapred.max.split.size来设置。splits链表用来存储计算得到的输入分片,files则存储作为由listStatus()获取的输入文件列表。然后对于每个输入文件,判断是否可以分割,通过computeSplitSize计算出分片大小splitSize,计算方法是:Math.max(minSize, Math.min(maxSize, blockSize));也就是保证在minSize和maxSize之间,且如果minSize=blockSize=maxSize,则设为blockSize。然后我们根据这个splitSize计算出每个文件的inputSplits集合,然后加入分片列表splits中。注意到我们生成InputSplit的时候按上面说的使用文件路径,分片起始位置,分片大小和存放这个文件的hosts列表来创建。最后我们还设置了输入文件数量:mapreduce.input.num.files。

二、计算出来的分片有时怎么传递给 map呢 ?对于单词数量如何累加?

我们使用了 就是InputFormat中的另一个方法createRecordReader() 这个方法:

RecordReader:

RecordReader是用来从一个输入分片中读取一个一个的K -V 对的抽象类,我们可以将其看作是在InputSplit上的迭代器。我们从API接口中可以看到它的一些方法,最主要的方法就是nextKeyvalue()方法,由它获取分片上的下一个K-V 对。

可以看到接口中有:

public abstract boolean nextKeyValue() throws IOException, InterruptedException;

public abstract KEYIN getCurrentKey() throws IOException, InterruptedException;

public abstract VALUEIN getCurrentValue() throws IOException, InterruptedException;

public abstract float getProgress() throws IOException, InterruptedException;

public abstract void close() throws IOException;

FileInputFormatK,V

Direct Known Subclasses:

CombineFileInputFormat, KeyValueTextInputFormat, NLineInputFormat, SequenceFileInputFormat, TextInputFormat

对于 wordcount 测试用了 NLineInputFormat和 TextInputFormat 实现类

在 InputFormat 构建一个 RecordReader 出来,然后调用RecordReader initialize 的方法,初始化RecordReader 对象

那么 到底 Map是怎么调用 的呢? 通过前边我们 已经将 文件分片了,并且将文件分片的内容存放到了RecordReader中,

下面继续看看这些RecordReader是如何被MapReduce框架使用的

终于 说道 Map了 ,我么如果要实现Map 那么 一定要继承 Mapper这个类

public abstract class Context

implements MapContextKEYIN,VALUEIN,KEYOUT,VALUEOUT {

}

protected void setup(Context context) throws IOException, InterruptedException

protected void map(KEYIN key, VALUEIN value, Context context) throws IOException,InterruptedException { }

protected void cleanup(Context context ) throws IOException, InterruptedException { }

public void run(Context context) throws IOException, InterruptedException { }

我们写MapReduce程序的时候,我们写的mapper都要继承这个Mapper.class,通常我们会重写map()方法,map()每次接受一个K-V对,然后我们对这个K-V对进行处理,再分发出处理后的数据。我们也可能重写setup()以对这个map task进行一些预处理,比如创建一个List之类的;我们也可能重写cleanup()方法对做一些处理后的工作,当然我们也可能在cleanup()中写出K-V对。举个例子就是:InputSplit的数据是一些整数,然后我们要在mapper中算出它们的和。我们就可以在先设置个sum属性,然后map()函数处理一个K-V对就是将其加到sum上,最后在cleanup()函数中调用context.write(key,value);

最后我们看看Mapper.class中的run()方法,它相当于map task的驱动,我们可以看到run()方法首先调用setup()进行初始操作,然后对每个context.nextKeyValue()获取的K-V对,就调用map()函数进行处理,最后调用cleanup()做最后的处理。事实上,从context.nextKeyValue()就是使用了相应的RecordReader来获取K-V对的。

我们看看Mapper.class中的Context类,它继承与MapContext,使用了一个RecordReader进行构造。下面我们再看这个MapContext。

public MapContextImpl(Configuration conf, TaskAttemptID taskid,

RecordReaderKEYIN,VALUEIN reader,

RecordWriterKEYOUT,VALUEOUT writer,

OutputCommitter committer,

StatusReporter reporter,

InputSplit split) {

super(conf, taskid, writer, committer, reporter);

this.reader = reader;

this.split = split;

}

RecordReader 看来是在这里构造出来了, 那么 是谁调用这个方法,将这个承载着关键数据信息的 RecordReader 传过来了 ?

我们可以想象 这里 应该被框架调用的可能性比较大了,那么mapreduce 框架是怎么分别来调用map和reduce呢?

还以为分析完map就完事了,才发现这里仅仅是做了mapreduce 框架调用前的一些准备工作,

还是继续分析 下 mapreduce 框架调用吧:

1.在 job提交 任务之后 首先由jobtrack 分发任务,

在 任务分发完成之后 ,执行 task的时候,这时 调用了 maptask 中的 runNewMapper

在这个方法中调用了 MapContextImpl, 至此 这个map 和框架就可以联系起来了。

java中Map是什么意思,最重要的是怎么能用上

Map 正版翻译是查找表(你没看错,很蛋疼得翻译)

要用得话可以用他得实现类 HashMAP

Mapkey ,value a=new HashMapkey,value();

map里面存得是一个个键值对,可以对键值对直接泛型,

MapString ,String map=new HashMapString, String();

a.put(key, value);

a.get(key) 得到value;

查找比较直接 很好用!

java map 的用法?

map是个接口

用都是用HasMap等实现Map接口的类

创建:MapString,String map = new HashMapString,String();

插入元素:map.put("1","a");

移除元素: map.remove("1");

清空: map.clear();

具体参照java API

java.uitl.HashMap

关于java型参为map和java有参的介绍到此就结束了,不知道你从中找到你需要的信息了吗 ?如果你还想了解更多这方面的信息,记得收藏关注本站。

The End

发布于:2022-11-29,除非注明,否则均为首码项目网原创文章,转载请注明出处。