「java分词word」java分词搜索

今天给各位分享java分词word的知识，其中也会对java分词搜索进行解释，如果能碰巧解决你现在面临的问题，别忘了关注本站，现在开始吧！

本文目录一览：

• 1、用java读取文档并分词。
• 2、java中文分词组件word怎么使用
• 3、word是什么意思

用java读取文档并分词。

需要commons-io包, 或者自己写读文件的部分

import java.io.File;

import java.io.IOException;

import java.util.ArrayList;

import java.util.Collections;

import java.util.Comparator;

import java.util.List;

import java.util.regex.Matcher;

import java.util.regex.Pattern;

import org.apache.commons.io.FileUtils;

public class Test20 {

    /**

     * @param args

     */

    public static void main(String[] args) {

        // TODO Auto-generated method stub

        String str = null;

        try {

            str = FileUtils.readFileToString(new File("e.txt"));

        } catch (IOException e) {

            // TODO Auto-generated catch block

            e.printStackTrace();

        }

        Pattern p = Pattern.compile("\\b[\\w-']+\\b");

        Matcher m = p.matcher(str);

        ListWord words = new ArrayListWord();

        while(m.find()){

            add(words, m.group().trim());

        }

        Collections.sort(words, new ComparatorWord(){

            @Override

            public int compare(Word o1, Word o2) {

                // TODO Auto-generated method stub

                return o1.getWord().compareTo(o2.getWord());

            }});

        System.out.println(words);

    }

    private static void add(ListWord words, String word) {

        // TODO Auto-generated method stub

        for(Word temp : words){

            if(temp.getWord().equals(word)){

                temp.setCount(temp.getCount() + 1);

                return;

            }

        }

        Word w = new Word();

        w.setWord(word);

        words.add(w);

    }

}

class Word{

    private String word;

    private int count = 1;

    public String getWord() {

        return word;

    }

    public void setWord(String word) {

        this.word = word;

    }

    public int getCount() {

        return count;

    }

    public void setCount(int count) {

        this.count = count;

    }

    @Override

    public String toString() {

        return "Word [word=" + word + ", count=" + count + "]";

    }

}

java中文分词组件word怎么使用

参考如下

1、快速体验

运行项目根目录下的脚本demo-word.bat可以快速体验分词效果

用法: command [text] [input] [output]

命令command的可选值为：demo、text、file

demo

text 杨尚川是APDPlat应用级产品开发平台的作者

file d:/text.txt d:/word.txt

exit

2、对文本进行分词

移除停用词：ListWord words = WordSegmenter.seg("杨尚川是APDPlat应用级产品开发平台的作者");

保留停用词：ListWord words = WordSegmenter.segWithStopWords("杨尚川是APDPlat应用级产品开发平台的作者");

System.out.println(words);

输出：

移除停用词：[杨尚川, apdplat, 应用级, 产品, 开发平台, 作者]

保留停用词：[杨尚川, 是, apdplat, 应用级, 产品, 开发平台, 的, 作者]

3、对文件进行分词

String input = "d:/text.txt";

String output = "d:/word.txt";

移除停用词：WordSegmenter.seg(new File(input), new File(output));

保留停用词：WordSegmenter.segWithStopWords(new File(input), new File(output));

4、自定义配置文件

默认配置文件为类路径下的word.conf，打包在word-x.x.jar中

自定义配置文件为类路径下的word.local.conf，需要用户自己提供

如果自定义配置和默认配置相同，自定义配置会覆盖默认配置

配置文件编码为UTF-8

5、自定义用户词库

自定义用户词库为一个或多个文件夹或文件，可以使用绝对路径或相对路径

用户词库由多个词典文件组成，文件编码为UTF-8

词典文件的格式为文本文件，一行代表一个词

可以通过系统属性或配置文件的方式来指定路径，多个路径之间用逗号分隔开

类路径下的词典文件，需要在相对路径前加入前缀classpath:

指定方式有三种：

指定方式一，编程指定（高优先级）：

WordConfTools.set("dic.path", "classpath:dic.txt，d:/custom_dic");

DictionaryFactory.reload();//更改词典路径之后，重新加载词典

指定方式二，Java虚拟机启动参数（中优先级）：

java -Ddic.path=classpath:dic.txt，d:/custom_dic

指定方式三，配置文件指定（低优先级）：

使用类路径下的文件word.local.conf来指定配置信息

dic.path=classpath:dic.txt，d:/custom_dic

如未指定，则默认使用类路径下的dic.txt词典文件

6、自定义停用词词库

使用方式和自定义用户词库类似，配置项为：

stopwords.path=classpath:stopwords.txt，d:/custom_stopwords_dic

7、自动检测词库变化

可以自动检测自定义用户词库和自定义停用词词库的变化

包含类路径下的文件和文件夹、非类路径下的绝对路径和相对路径

如：

classpath:dic.txt，classpath:custom_dic_dir,

d:/dic_more.txt，d:/DIC_DIR，D:/DIC2_DIR，my_dic_dir，my_dic_file.txt

classpath:stopwords.txt，classpath:custom_stopwords_dic_dir，

d:/stopwords_more.txt，d:/STOPWORDS_DIR，d:/STOPWORDS2_DIR，stopwords_dir，remove.txt

8、显式指定分词算法

对文本进行分词时，可显式指定特定的分词算法，如：

WordSegmenter.seg("APDPlat应用级产品开发平台", SegmentationAlgorithm.BidirectionalMaximumMatching);

SegmentationAlgorithm的可选类型为：

正向最大匹配算法：MaximumMatching

逆向最大匹配算法：ReverseMaximumMatching

正向最小匹配算法：MinimumMatching

逆向最小匹配算法：ReverseMinimumMatching

双向最大匹配算法：BidirectionalMaximumMatching

双向最小匹配算法：BidirectionalMinimumMatching

双向最大最小匹配算法：BidirectionalMaximumMinimumMatching

全切分算法：FullSegmentation

最少分词算法：MinimalWordCount

最大Ngram分值算法：MaxNgramScore

9、分词效果评估

运行项目根目录下的脚本evaluation.bat可以对分词效果进行评估

评估采用的测试文本有253 3709行，共2837 4490个字符

评估结果位于target/evaluation目录下：

corpus-text.txt为分好词的人工标注文本，词之间以空格分隔

test-text.txt为测试文本，是把corpus-text.txt以标点符号分隔为多行的结果

standard-text.txt为测试文本对应的人工标注文本，作为分词是否正确的标准

result-text-***.txt，***为各种分词算法名称，这是word分词结果

perfect-result-***.txt，***为各种分词算法名称，这是分词结果和人工标注标准完全一致的文本

wrong-result-***.txt，***为各种分词算法名称，这是分词结果和人工标注标准不一致的文本

word是什么意思

释义1：英文单词

n.单词，歌词，台词；（说的）.话；诺言；命令

vt.措辞，用词；用言语表达

vi.讲话

释义2：微软文字处理软件

Microsoft Office Word是微软公司的一个文字处理器应用程序。

Word给用户提供了用于创建专业而优雅的文档工具，帮助用户节省时间，并得到优雅美观的结果。

一直以来，Microsoft Office Word 都是最流行的文字处理程序。

作为 Office 套件的核心程序， Word 提供了许多易于使用的文档创建工具，同时也提供了丰富的功能集供创建复杂的文档使用。哪怕只使用 Word 应用一点文本格式化操作或图片处理，也可以使简单的文档变得比只使用纯文本更具吸引力。

释义3：编程语言中的一种数据类型

WORD是无符号的短整型，且占2个字节

释义4：Java分布式中文分词组件

word分词是一个Java实现的分布式的中文分词组件，提供了多种基于词典的分词算法，并利用ngram模型来消除歧义。能准确识别英文、数字，以及日期、时间等数量词，能识别人名、地名、组织机构名等未登录词。能通过自定义配置文件来改变组件行为，能自定义用户词库、自动检测词库变化、支持大规模分布式环境，能灵活指定多种分词算法，能使用refine功能灵活控制分词结果，还能使用词性标注、同义标注、反义标注、拼音标注等功能。同时还无缝和Lucene、Solr、ElasticSearch、Luke集成。

关于java分词word和java分词搜索的介绍到此就结束了，不知道你从中找到你需要的信息了吗 ？如果你还想了解更多这方面的信息，记得收藏关注本站。