History

jixiaoxu 47af66e682 优化多音字字典存储数据结构；部分代码及注释整理；		2022-03-08 10:40:33 +08:00
..
pos_dict	Add file content index and search funtion(lib).	2020-12-31 21:14:13 +08:00
README.md	Add file content index and search funtion(lib).	2020-12-31 21:14:13 +08:00
hmm_model.utf8	Add file content index and search funtion(lib).	2020-12-31 21:14:13 +08:00
idf.utf8	Add file content index and search funtion(lib).	2020-12-31 21:14:13 +08:00
jieba.dict.utf8	Add file content index and search funtion(lib).	2020-12-31 21:14:13 +08:00
pinyinWithoutTone.txt	优化多音字字典存储数据结构；部分代码及注释整理；	2022-03-08 10:40:33 +08:00
stop_words.utf8	Add file content index and search funtion(lib).	2020-12-31 21:14:13 +08:00
user.dict.utf8	Add file content index and search funtion(lib).	2020-12-31 21:14:13 +08:00

CppJieba字典

文件后缀名代表的是词典的编码方式。比如filename.utf8 是 utf8编码，filename.gbk 是 gbk编码方式。

分词

作为最大概率法(MPSegment: Max Probability)分词所使用的词典。

作为隐式马尔科夫模型(HMMSegment: Hidden Markov Model)分词所使用的词典。

对于MixSegment(混合MPSegment和HMMSegment两者)则同时使用以上两个词典

IDF(Inverse Document Frequency) 在KeywordExtractor中，使用的是经典的TF-IDF算法，所以需要这么一个词典提供IDF信息。

停用词词典