1.cookie的作用
cookie 是指某些网站为了辨别用户身份、进行session跟踪而储存在用户本地终端上的数据,就像有些网站上的一些数据是需要登录后才能看得到,那么想抓取某个页面内容,就需要用到cookie来模拟登陆了。
在用cookie模拟登陆的时候,需要用到python中的CookieJar
,CookieJar中有一些子类,例如:
- FileCookieJar,LWPCookieJar,MoziliaCookieJar
- CookieJar 管理http生成的cookie,负责cookie的存储工作,向http当中添加指定的cookie
MozillaCookieJar
和LWPCookieJar
类都是FileCookieJar
的子类。实现了具体的把cookie内容保存为文件的方法。只是这两个类对应的标准不同而已。
2 获取cookie
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
|
from http.cookiejar import CookieJar,LWPCookieJar from urllib.request import Request,urlopen,HTTPCookieProcessor,build_opener from urllib.parse import urlencode import ssl # ----------------------------------------获取cookie--------------------------- # 生成一个管理cookie的对象 cookie_obj = CookieJar() # 创建一个支持cookie的对象,对象属于HTTPCookieProcessor cookie_handler = HTTPCookieProcessor(cookie_obj) #创建一个opener opener = build_opener(cookie_handler) response = opener. open ( 'http://www.baidu.com' ) print (response) #打印cookie for cookie in cookie_obj: print ( 'key:' ,cookie.name) print ( 'value:' ,cookie.value) |
3 保存cookie的文件
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
|
from http.cookiejar import CookieJar,LWPCookieJar from urllib.request import Request,urlopen,HTTPCookieProcessor,build_opener filename = 'neihan.txt' # 设置cookie保存的文件 cookie_obj = LWPCookieJar(filename = filename) # 创建一个支持cookie的对象,对象属于HTTPCookieProcessor cookie_handler = HTTPCookieProcessor(cookie_obj) #创建一个opener opener = build_opener(cookie_handler) #请求网页 response = opener. open ( 'http://www.neihanshequ.com' ) # 保存cookie到指定的文件当中去 # ignore_expires=True 即便目标cookie已经在文件中存在,仍然对其写入 # ignore_discard=True 即便cookie将要/已经过期,仍然写入 cookie_obj.save(ignore_expires = True ,ignore_discard = True ) |
4 使用本地的cookie进行请求
1
2
3
4
5
6
7
8
9
10
11
12
13
|
from http.cookiejar import CookieJar,LWPCookieJar from urllib.request import Request,urlopen,HTTPCookieProcessor,build_opener cookie = LWPCookieJar() #从文件中读取cookie到变量 cookie.load( 'neihan.txt' ) request = Request( 'http://www.neihanshequ.com' ) # 创建一个支持cookie的对象,对象属于HTTPCookieProcessor cookie_handler = HTTPCookieProcessor(cookie) #创建一个opener opener = build_opener(cookie_handler) #请求网页 response = opener. open (request) # print(response.read().decode()) |
5 使用cookie进行模拟登陆
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
|
from http.cookiejar import CookieJar,LWPCookieJar from urllib.request import Request,urlopen,HTTPCookieProcessor,build_opener from urllib.parse import urlencode import ssl cookie = LWPCookieJar(filename = 'meishi.txt' ) cookie_handler = HTTPCookieProcessor(cookie) opener = build_opener(cookie_handler) headers = { 'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; Win64; x64; rv:61.0) Gecko/20100101 Firefox/61.0' } post_url = 'https://i.meishi.cc/login.php?redirect=https%3A%2F%2Fi.meishi.cc%2Flogin.php%3Fac%3Dzhuce' # urlencode对url当中的参数进行编码 # urlencode()编码的对象为字典类型 post_data = urlencode({ 'username' : '***********' , #自己的登陆账号 'password' : '************' #自己的登陆密码 }) # 请求url 并传参,设置编码方式 request = Request(post_url,bytes(post_data,encoding = 'utf-8' )) # 解决证书问题 ssl._create_default_https_context = ssl._create_unverified_context response = opener. open (request) print (response.read().decode()) cookie.save(ignore_discard = True ,ignore_expires = True ) |
这里的post_url
是抓包获取来的
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对服务器之家的支持。如果你想了解更多相关内容请查看下面相关链接
原文链接:https://blog.csdn.net/qq_39138295/article/details/81406991