先来介绍一些python web编程基础知识
1. GET与POST区别
1)POST是被设计用来向web服务器上放东西的,而GET是被设计用来从服务器取东西的,GET也能够向服务器传送较少的数据,而Get之所以也能传送数据,只是用来设计告诉服务器,你到底需要什么样的数据.POST的信息作为HTTP 请求的内容,而GET是在HTTP 头部传输的;
2)POST与GET在HTTP 中传送的方式不同,GET的参数是在HTTP 的头部传送的,而Post的数据则是在HTTP 请求的内容里传送;
3)POST传输数据时,不需要在URL中显示出来,而GET方法要在URL中显示;
4)GET方法由于受到URL长度的限制,只能传递大约1024字节;POST传输的数据量大,可以达到2M
2. Cookies技术
Cookies现在经常被大家提到,那么到底什么是Cookies,它有什么作用 呢?
Cookies是一种能够让网站服务器把少量数据储存到客户端的硬盘或内存,或是从客户端的硬盘读取数据的一种技术。Cookies是当你浏览某网站 时,由Web服务器置于你硬盘上的一个非常小的文本文件,它可以记录你的用户ID、密码、浏览过的网页、停留的时间等信息。
当你再次来到该网站时,网站通过读取Cookies,得知你的相关信息,就可以做出相应的动作,如在页面显示欢迎你的标语,或者让你不用输入ID、密码就直接登录等等。
从本质上讲,它可以看作是你的身份证。但Cookies不能作为代码执行,也不会传送病毒,且为你所专有,并只能由提供它的服务器来读取。
保存的信息片断以“名/值”对(name-value pairs)的形式储存,一个“名/值”对仅仅是一条命名的数据。
一个网站只能取得它放在你的电脑中的信息,它无法从其它的Cookies文件中取得信息,也无法得到你的电脑上的其它任何东西。
Cookies中的内容大多数经过了加密处理,因此一般用户看来只是一些毫无意义的字母数字组合,只有服务器的CGI处理程序才知道它们真正的含义。
- 要实现的主要功能点:
- 解析网页中的图片链接
- 对图片链接进行检测,如果图片格式 图片大小不符合要求,则不下载
- 加入异常处理机制
- 自动文件名提取,从图片链接直接提取文件名
Python3通过Web网页图片下载参考代码:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
|
from urllib import request import threading from time import sleep,ctime from html import parser def downjpg( filepath,FileName = "default.jpg" ): try : web = request.urlopen( filepath) print ( "访问网络文件" + filepath + "\n" ) jpg = web.read() DstDir = "E:\\image\\" print ( "保存文件" + DstDir + FileName + "\n" ) try : File = open ( DstDir + FileName, "wb" ) File .write( jpg) File .close() return except IOError: print ( "error\n" ) return except Exception: print ( "error\n" ) return def downjpgmutithread( filepathlist ): print ( "共有%d个文件需要下载" % len (filepathlist)) for file in filepathlist: print ( file ) print ( "开始多线程下载" ) task_threads = [] #存储线程 count = 1 for file in filepathlist: t = threading.Thread( target = downjpg,args = ( file , "%d.jpg" % count) ) count = count + 1 task_threads.append(t) for task in task_threads: task.start() for task in task_threads: task.join() #等待所有线程结束 print ( "线程结束" ) class parserLinks( parser.HTMLParser): filelist = [] def handle_starttag( self ,tag,attrs): if tag = = 'img' : for name,value in attrs: if name = = 'src' : print ( value) self .filelist.append(value) #print( self.get_starttag_text() ) def getfilelist( self ): return self .filelist def main(WebUrl): #globals flist if __name__ = = "__main__" : lparser = parserLinks() web = request.urlopen( WebUrl ) #context= web.read() for context in web.readlines(): _str = "%s" % context try : lparser.feed( _str) except parser.HTMLParseError: #print( "parser error") pass web.close() imagelist = lparser.getfilelist() downjpgmutithread( imagelist) #downjpgmutithread( flist) #WebUrl="http://www.baidu.com/" #要抓去的网页链接,默认保存到e盘 WebUrl = "http://hi.baidu.com/yuyinxuezi/item/df0b59140a06be27f6625cd4" main(WebUrl) |
以上就是Python3实现Web网页图片下载的相关介绍,希望对大家的学习有所帮助。