forked from openkylin/ukui-search
6f3c610896 | ||
---|---|---|
.. | ||
pos_dict | ||
README.md | ||
hmm_model.utf8 | ||
idf.utf8 | ||
jieba.dict.utf8 | ||
pinyinWithoutTone.txt | ||
stop_words.utf8 | ||
user.dict.utf8 |
README.md
CppJieba字典
文件后缀名代表的是词典的编码方式。 比如filename.utf8 是 utf8编码,filename.gbk 是 gbk编码方式。
分词
jieba.dict.utf8/gbk
作为最大概率法(MPSegment: Max Probability)分词所使用的词典。
hmm_model.utf8/gbk
作为隐式马尔科夫模型(HMMSegment: Hidden Markov Model)分词所使用的词典。
对于MixSegment(混合MPSegment和HMMSegment两者)则同时使用以上两个词典
关键词抽取
idf.utf8
IDF(Inverse Document Frequency) 在KeywordExtractor中,使用的是经典的TF-IDF算法,所以需要这么一个词典提供IDF信息。
stop_words.utf8
停用词词典