标签：mat 工作 内容 encoding ptime int open exce att
1. 将新闻的正文内容保存到文本文件。
def write(filename, content):
f = open(filename, ‘a‘, encoding=‘utf-8‘)
f.write(content)
f.close()
2. 将新闻数据结构化为字典的列表:
news={}
news[‘title‘]=soupd.select(‘.show-title‘)[0].text
# news[‘newsurl‘]=newsurl
info=soupd.select(‘.show-info‘)[0].text
news[‘dt‘]=datetime.strptime(info.lstrip(‘发布时间:‘)[0:19],‘%Y-%m-%d %H:%M:%S‘)
news[‘click‘] = int(getClickCount(newsurl))
for news in soup.select(‘li‘):
if len(news.select(‘.news-list-title‘))>0:
a=news.select(‘a‘)[0].attrs[‘href‘]
newsList.append(getNewsDetail(a))
return (newsList)
newsTotal=[]
firstPage=‘http://news.gzcc.cn/html/xiaoyuanxinwen/‘
newsTotal.extend(getListPage(firstPage))
n=getPageNumber()
for i in range(n,n+1):
listUrl= ‘http://news.gzcc.cn/html/xiaoyuanxinwen/{}.html‘.format(i)
newsTotal.extend(getListPage(listUrl))
3. 安装pandas，用pandas.DataFrame(newstotal)，创建一个DataFrame对象df.
df=pandas.DataFrame(newsTotal)
4. 通过df将提取的数据保存到csv或excel 文件。
# df.to_excel("news.xlsx")
5. 用pandas提供的函数和方法进行数据分析：
print(df.head(6)) print(df[[‘author‘,‘click‘,‘source‘]]) print(df[df[‘click‘]>3000]) sou=[‘国际学院‘,‘学生工作处‘] print(df[df[‘source‘].isin(sou)])
标签：mat 工作 内容 encoding ptime int open exce att
原文地址：https://www.cnblogs.com/dengjinxiu/p/8810430.html
