码迷,mamicode.com
首页 > 编程语言 > 详细

java 实现模拟浏览器 访问网站

时间:2016-04-26 16:01:44      阅读:668      评论:0      收藏:0      [点我收藏+]

标签:

一般的情况下我们都是使用IE或者Navigator浏览器来访问一个WEB服务器,用来浏览页面查看信息或者提交一些数据等等。所访问的这些页面 有的仅仅是一些普通的页面,有的需要用户登录后方可使用,或者需要认证以及是一些通过加密方式传输,例如HTTPS。目前我们使用的浏览器处理这些情况都 不会构成问题。不过你可能在某些时候需要通过程序来访问这样的一些页面,比如从别人的网页中“偷”一些数据;利用某些站点提供的页面来完成某种功能,例如 说我们想知道某个手机号码的归属地而我们自己又没有这样的数据,因此只好借助其他公司已有的网站来完成这个功能,这个时候我们需要向网页提交手机号码并从 返回的页面中解析出我们想要的数据来。如果对方仅仅是一个很简单的页面,那我们的程序会很简单,本文也就没有必要大张旗鼓的在这里浪费口舌。但是考虑到一 些服务授权的问题,很多公司提供的页面往往并不是可以通过一个简单的URL就可以访问的,而必须经过注册然后登录后方可使用提供服务的页面,这个时候就涉 及到COOKIE问题的处理。我们知道目前流行的动态网页技术例如ASP、JSP无不是通过COOKIE来处理会话信息的。为了使我们的程序能使用别人所 提供的服务页面,就要求程序首先登录后再访问服务页面,这过程就需要自行处理cookie,想想当你用 java.net.HttpURLConnection来完成这些功能时是多么恐怖的事情啊!况且这仅仅是我们所说的顽固的WEB服务器中的一个很常见的 “顽固”!再有如通过HTTP来上传文件呢?不需要头疼,这些问题有了“它”就很容易解决了!  

我们不可能列举所有可能的顽固,我们会 针对几种最常见的问题进行处理。当然了,正如前面说到的,如果我们自己使用java.net.HttpURLConnection来搞定这些问题是很恐怖 的事情,因此在开始之前我们先要介绍一下一个开放源码的项目,这个项目就是Apache开源组织中的httpclient,它隶属于Jakarta的 commons项目,目前的版本是2.0RC2。commons下本来已经有一个net的子项目,但是又把httpclient单独提出来,可见http 服务器的访问绝非易事。

Commons-httpclient项目就是专门设计来简化HTTP客户端与服务器进行各种通讯编程。通过它可 以让原来很头疼的事情现在轻松的解决,例如你不再管是HTTP或者HTTPS的通讯方式,告诉它你想使用HTTPS方式,剩下的事情交给 httpclient替你完成。本文会针对我们在编写HTTP客户端程序时经常碰到的几个问题进行分别介绍如何使用httpclient来解决它们,为了 让读者更快的熟悉这个项目我们最开始先给出一个简单的例子来读取一个网页的内容,然后循序渐进解决掉前进中的所有问题。

1.  读取网页(HTTP/HTTPS)内容
下面是我们给出的一个简单的例子用来访问某个页面

package http.demo;
import java.io.IOException;
import org.apache.commons.httpclient.*;
import org.apache.commons.httpclient.methods.*;

public class SimpleClient {
    public static void main(String[] args) throws IOException
    {
        HttpClient client = new HttpClient();   
        //设置代理服务器地址和端口     
     //client.getHostConfiguration().setProxy("proxy_host_addr",proxy_port);
        //使用GET方法,如果服务器需要通过HTTPS连接,那只需要将下面URL中的http换成https
        HttpMethod method = new GetMethod("http://java.sun.com";); 
        //使用POST方法
     //HttpMethod method = new PostMethod("http://java.sun.com";); 
        client.executeMethod(method);
        //打印服务器返回的状态
     System.out.println(method.getStatusLine());
       //打印返回的信息
     System.out.println(method.getResponseBodyAsString());
       //释放连接
     method.releaseConnection();
    }
} 

在这个例子中首先创建一个HTTP客户端(HttpClient)的实例,然后选择提交的方法是GET或者POST,最后在HttpClient实 例上执行提交的方法,最后从所选择的提交方法中读取服务器反馈回来的结果。这就是使用HttpClient的基本流程。其实用一行代码也就可以搞定整个请 求的过程,非常的简单!

 

2.  以GET或者POST方式向网页提交参数
其实前面一个最简单的示例中我们已经介绍了如何使用 GET或者POST方式来请求一个页面,本小节与之不同的是多了提交时设定页面所需的参数,我们知道如果是GET的请求方式,那么所有参数都直接放到页面 的URL后面用问号与页面地址隔开,每个参数用&隔开,例如:http://java.sun.com/?name=liudong&mobile=123456,但是当使用POST方法时就会稍微有一点点麻烦。本小节的例子演示向如何查询手机号码所在的城市,代码如下:

package http.demo;
 import java.io.IOException;
 import org.apache.commons.httpclient.*;
 import org.apache.commons.httpclient.methods.*;
 
 
 public class SimpleHttpClient {
     public static void main(String[] args) throws IOException
     {
         HttpClient client = new HttpClient();
         client.getHostConfiguration().setHost("www.imobile.com.cn", 80, "http");
         HttpMethod method = getPostMethod();//使用POST方式提交数据
      client.executeMethod(method);
        //打印服务器返回的状态
      System.out.println(method.getStatusLine());
        //打印结果页面
     String response =   new String(method.getResponseBodyAsString().getBytes("8859_1"));
        //打印返回的信息
      System.out.println(response);
         method.releaseConnection();
     }
     
     private static HttpMethod getGetMethod(){
         return new GetMethod("/simcard.php?simcard=1330227");
     }
     
     private static HttpMethod getPostMethod(){
         PostMethod post = new PostMethod("/simcard.php");
         NameValuePair simcard = new NameValuePair("simcard","1330227");
         post.setRequestBody(new NameValuePair[] { simcard});
         return post;
     }
 } 

在上面的例子中页面http://www.imobile.com.cn/simcard.php需要一个参数是simcard,这个参数值为手机号码段,即手机号码的前七位,服务器会返回提交的手机号码对应的省份、城市以及其他详细信息。GET的提交方法只需要在URL后加入参数信息,而POST则需要通过NameValuePair类来设置参数名称和它所对应的值

https://www.ibm.com/developerworks/cn/opensource/os-httpclient/ 参考另外文章

java 实现模拟浏览器 访问网站

标签:

原文地址:http://www.cnblogs.com/guohu/p/5435297.html

(1)
(1)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!