码迷,mamicode.com
首页 > 其他好文 > 详细

中文词频统计

时间:2017-09-29 17:59:40      阅读:115      评论:0      收藏:0      [点我收藏+]

标签:.com   cut   int   read   range   词汇   exp   一个   key   

我对其进行统计的小说是余华的《在细雨中呼喊》,这是一本关于回忆的书。

import jieba

txt=open(‘xiyu.txt‘,‘r‘,encoding=‘utf-8‘).read()  
words=list(jieba.cut(txt))  

exp={‘,‘,‘没有‘,‘他们‘,‘我们‘,‘看到‘,‘那个‘,‘这个‘,‘时候‘,‘那时‘,‘以后‘,‘知道‘,‘一个‘,‘已经‘,‘起来‘,‘一样‘,‘告诉‘,‘来到‘,‘看着‘,‘这样‘,‘后来‘}

keys=set(words)-exp  

dic={}
for w in keys:
    if len(w)>1:    
        dic[w]=words.count(w)   

wc=list(dic.items())   
wc.sort(key=lambda x:x[1],reverse=True)   

for i in range(20):   
    print(wc[i])

技术分享

从词汇出现的频率分析,可以看出本书主要回忆的是作者及作者的家人们过去的事情。

中文词频统计

标签:.com   cut   int   read   range   词汇   exp   一个   key   

原文地址:http://www.cnblogs.com/lyx1997/p/7611818.html

踩
(0)
赞
(0)
   
举报
评论 一句话评论(0)
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!