zmy321 / simhashforchinese Goto Github PK

SimhashForChinese 中文的simhash指纹生成工具。 功能包括：

1. 利用simhash算法产生文本对应的指纹，可用指纹对照的方式去重；
2. 加入高频词过滤机制；
3. 可自行设置特殊词性的权重；
4. 可自行设置停用词/停用词性；
5. 感谢hanlp开源项目提供的分词以及词性标注功能；http://www.hankcs.com/nlp/hanlp.html
6. 感谢JohnBanana开源的simhash算法的核心代码；http://blog.csdn.net/john_hongming/article/details/41696115
7. 本项目作者仅在上述项目的基础上做了简单整合。