forked from openkylin/ukui-search
32 lines
683 B
Markdown
32 lines
683 B
Markdown
# CppJieba字典
|
||
|
||
文件后缀名代表的是词典的编码方式。
|
||
比如filename.utf8 是 utf8编码，filename.gbk 是 gbk编码方式。
|
||
|
||
|
||
## 分词
|
||
|
||
### jieba.dict.utf8/gbk
|
||
|
||
作为最大概率法(MPSegment: Max Probability)分词所使用的词典。
|
||
|
||
### hmm_model.utf8/gbk
|
||
|
||
作为隐式马尔科夫模型(HMMSegment: Hidden Markov Model)分词所使用的词典。
|
||
|
||
__对于MixSegment(混合MPSegment和HMMSegment两者)则同时使用以上两个词典__
|
||
|
||
|
||
## 关键词抽取
|
||
|
||
### idf.utf8
|
||
|
||
IDF(Inverse Document Frequency)
|
||
在KeywordExtractor中，使用的是经典的TF-IDF算法，所以需要这么一个词典提供IDF信息。
|
||
|
||
### stop_words.utf8
|
||
|
||
停用词词典
|
||
|
||
|