1. 背景
在使用selenium浏览器渲染技术，爬取网站信息时，一般来说，速度是很慢的。而且一般需要用到这种技术爬取的网站，反爬技术都比较厉害，对IP的访问频率应该有相当的限制。所以，如果想提升selenium抓取数据的速度，可以从两个方面出发：
第一，提高抓取频率，出现验证信息时进行破解，一般是验证码或者用户登录。
第二，使用多线程 + 代理IP， 这种方式，需要电脑有足够的内存和充足稳定的代理IP 。
2. 为chrome设置代理IP
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
|
from selenium import webdriverchromeOptions = webdriver.ChromeOptions()# 设置代理chromeOptions.add_argument("--proxy-server=http://202.20.16.82:10152")# 一定要注意，=两边不能有空格，不能是这样--proxy-server = http://202.20.16.82:10152browser = webdriver.Chrome(chrome_options = chromeOptions)# 查看本机ip，查看代理是否起作用browser.get("http://httpbin.org/ip")print(browser.page_source)# 退出，清除浏览器缓存browser.quit() |
注意事项：
第一，代理IP最好是稳定的固定IP，不要选动态IP。我们常用的爬虫IP是高匿名动态IP，是通过拨号动态产生的，时效性很短，一般在1~3分钟。对于scrapy这种并发度很高，又不需要登录的爬虫来说，非常合适，但是在浏览器渲染类爬虫中并不适用。
第二，代理IP的速度。因为selenium爬虫采用的是浏览器渲染技术，本身速度就很慢。如果选择的代理IP速度较慢，就会大大增加爬取的时间。
第三，电脑内存要够大。因为chrome占内存较大，在并发度很高的情况下，容易造成浏览器崩溃，也就是程序崩溃。
第四，在程序结束时，调用 browser.quit( ) 清除浏览器缓存。
3. 需要用户名密码验证的代理
参考文章：
Selenium chrome配置代理Python版：http://www.zzvips.com/article/158330.html
GitHub：https://github.com/RobinDev/Selenium-Chrome-HTTP-Private-Proxy
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持服务器之家。
原文链接：https://blog.csdn.net/zwq912318834/article/details/78626739
