码迷,mamicode.com
首页 > Web开发 > 详细

网络爬虫入门系列(三) (Jsoup)

时间:2018-03-14 15:05:23      阅读:224      评论:0      收藏:0      [点我收藏+]

标签:accept   文章   connect   out   新建   tst   col   awl   ref   

   上一篇文章介绍了httpUrlConnection 访问网页 的java 代码

   

        本篇文章介绍Jsoup  访问网页

   首先 到官网上   https://jsoup.org/download      下载  Jsoup-1.11.2.jar

   导入到项目中

    新建一个类 jsoupCrawler

     编写如下代码

package org.apache.crawlerType;

import java.io.IOException;

import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;

public class jsoupCrawler {
     public static void main(String[] args) {
        try {
            Document doc=Jsoup.connect("http://www.cnblogs.com/szw-blog/p/8565944.html")
              .timeout(1000)    //设置超时时间
              .userAgent("Mozilla/5.0 (Windows NT 6.1; Win64; x64; rv:58.0) Gecko/20100101 Firefox/58.0")    //设置浏览器请求头
              .header("Accept-Language", "zh-CN,zh;q=0.8,zh-TW;q=0.7,zh-HK;q=0.5,en-US;q=0.3,en;q=0.2")      //设置请求头
              .get();
            
            System.out.println(doc.toString());
            
        } catch (IOException e) {
            e.printStackTrace();
        }
         
         
         
    }
}

     运行后的结果是

技术分享图片

 

 以上就是 Jsoup 访问网页的  java 代码

 

网络爬虫入门系列(三) (Jsoup)

标签:accept   文章   connect   out   新建   tst   col   awl   ref   

原文地址:https://www.cnblogs.com/szw-blog/p/8566666.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有
迷上了代码!