码迷,mamicode.com
首页 > 其他好文 > 详细

综合练习:词频统计

时间:2018-03-26 12:33:13      阅读:127      评论:0      收藏:0      [点我收藏+]

标签:ima   blog   文件   读取   rev   语法   大写   英文   pad   

综合练习

词频统计预处理

下载一首英文的歌词或文章

将所有,.?!’:等分隔符全部替换为空格

将所有大写转换为小写

生成单词列表

生成词频统计

排序

排除语法型词汇,代词、冠词、连词

输出词频最大TOP20

将分析对象存为utf-8编码的文件,通过文件读取的方式获得词频分析内容。

fo=open(test.txt,r)
str=fo.read()
fo.close()

rap=‘‘‘,?!‘‘‘
exculde={the,one,i,to,is,so,and,how,me}
for c in rap:
    str=str.replace(c," ")
wordList=str.lower().split()

wordDict={}

wordSet=set(wordList)
for c in wordList:
    wordDict[c]=wordList.count(c)


for i in exculde:
    wordDict.pop(i)

dictList = list(wordDict.items())
dictList.sort(key= lambda x:x[1],reverse=True)


for i in range(10):
    print(dictList[i])

技术分享图片

综合练习:词频统计

标签:ima   blog   文件   读取   rev   语法   大写   英文   pad   

原文地址:https://www.cnblogs.com/god1924668503/p/8649747.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!