本文实例讲述了Python实现模拟浏览器请求及会话保持操作。分享给大家供大家参考,具体如下:
python下读取一个页面的数据可以通过urllib2
轻松实现请求
1
2
|
import urllib2 print urllib2.urlopen( 'http://www.baidu.com' ).read() |
涉及到页面的POST请求操作的话需要提供头信息,提交的post数据和请求页面。
其中的post数据需要urllib.encode()
一下,其实就是将字典转换成“data1=value1&data2=value2”的格式。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
|
import urllib import urllib2 HEADER = { 'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:31.0) Gecko/20100101 Firefox/31.0' , 'Referer' : 'http://202.206.1.163/logout.do' } POSTDATA = { 'data1' : 'value1' , 'data2' : 'value2' } HOSTURL = 'http://xxx.com' enpostdata = urllib.urlencode(POSTDATA) urlrequest = urllib2.Request(hosturl,enpostdata,HEADER) urlresponse = urllib2.urlopen(urlrequest) print urlresponse.read() |
请求之后浏览器会有一个会话保持的过程,会话都是保存在一个cookie里面的,下一次页面的请求会把cookie放到请求头,如果cookie丢失会话也就断开了。
在python下面需要设置一下cookie的保持
1
2
3
4
5
6
|
# cookie set # 用来保持会话 cj = cookielib.LWPCookieJar() cookie_support = urllib2.HTTPCookieProcessor(cj) opener = urllib2.build_opener(cookie_support, urllib2.HTTPHandler) urllib2.install_opener(opener) |
下面是将以上知识点汇总写的一个库文件,方便使用:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
|
# filename: analogop.py #!/usr/bin/python # -*-coding:UTF-8 -*- # author: 初行 # qq: 121866673 # mail: zxbd1016@163.com # message: I need a python job # time: 2014/10/5 import urllib import urllib2 import cookielib # cookie set # 用来保持会话 cj = cookielib.LWPCookieJar() cookie_support = urllib2.HTTPCookieProcessor(cj) opener = urllib2.build_opener(cookie_support, urllib2.HTTPHandler) urllib2.install_opener(opener) # default header HEADER = { 'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:31.0) Gecko/20100101 Firefox/31.0' , 'Referer' : 'http://202.206.1.163/logout.do' } # operate method def geturlopen(hosturl, postdata = {}, headers = HEADER): # encode postdata enpostdata = urllib.urlencode(postdata) # request url urlrequest = urllib2.Request(hosturl, enpostdata, headers) # open url urlresponse = urllib2.urlopen(urlrequest) # return url return urlresponse |
这个是测试文件,因为读者没有测试环境,需要自己搭建或者找个网站测试:
1
2
3
4
5
6
7
8
9
10
11
12
|
#filename: test.py from analogop import geturlopen postd = { 'usernum' : '2011411111' , 'upw' : '124569' , 'userip' : '192.168.10.1' , 'token' : 'xxx' } urlread = geturlopen( 'http://127.0.0.1:8000/login/' , postd) print urlread.read().decode( 'utf-8' ) urlread = geturlopen( 'http://127.0.0.1:8000/chafen/' , {}) print urlread.read().decode( 'utf-8' ) |
希望本文所述对大家Python程序设计有所帮助。
原文链接:https://www.cnblogs.com/zxlovenet/p/4006649.html