码迷,mamicode.com
首页 > Web开发 > 详细

nodejs爬虫数据抓取 -- 问题总结

时间:2015-07-27 14:28:17      阅读:155      评论:0      收藏:0      [点我收藏+]

标签:

一  返回的信息提示  Something went wrong 

request模块请求出现未知错误

技术分享

其中,所用代码如下(无User-Agent部分)

技术分享

问题多次派查无果,包括:

  1:postman请求正常

技术分享

  2. curl 请求正常

技术分享

 

  解决办法:

为请求添加user-agent头,如取消上注释部分。(我发现,只要有了user-agent这个key,无论其value是否为空,都可以正常返回了)

所以对于模拟请求,有时候相应的http头部信息还是必须的。

 

nodejs爬虫数据抓取 -- 问题总结

标签:

原文地址:http://www.cnblogs.com/imwtr/p/4679835.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!