Python爬虫实战案例之爬取喜马拉雅音频数据详解

前言

喜马拉雅是专业的音频分享平台，汇集了有声小说,有声读物,有声书,FM电台,儿童睡前故事,相声小品,鬼故事等数亿条音频，我最喜欢听民间故事和德云社相声集，你呢？

今天带大家爬取喜马拉雅音频数据，一起期待吧！！

这个案例的视频地址在这里

https://v.douyu.com/show/a2JEMJj3e3mMNxml

项目目标

爬取喜马拉雅音频数据

受害者地址

https://www.ximalaya.com/

本文知识点：

1、系统分析网页性质

2、多层数据解析

3、海量音频数据保存

环境：

1.确定数据所在的链接地址(url)
2.通过代码发送url地址的请求
3.解析数据(要的, 筛选不要的)
4.数据持久化(保存)

案例思路：

1. 在静态数据中获取音频的id值

2. 发送指定id值json数据请求(src)

3. 从json数据中解析音频所对应的URL地址 开始写代码

先导入所需的模块

1. import requests
2. import parsel # 数据解析模块
3. import re

1.确定数据所在的链接地址(url) 逆向分析 网页性质(静态网页/动态网页)

打开开发者工具，播放一个音频，在Madie里面可以找到一个数据包

复制URL，搜索

找到ID值

继续搜索，找到请求头参数

1. url = 'https://www.ximalaya.com/youshengshu/4256765/p{}/'.format(page)
2. headers = {
3. 'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/84.0.4147.105 Safari/537.36'}

2.通过代码发送url地址的请求

1. response = requests.get(url=url, headers=headers)
2. html_data = response.text

3.解析数据(要的, 筛选不要的) 解析音频的 id值

1. selector = parsel.Selector(html_data)
2. lis = selector.xpath('//div[@class="sound-list _is"]/ul/li')
3.  
4. for li in lis:
5. try:
6. title = li.xpath('.//a/@title').get() + '.m4a'
7. href = li.xpath('.//a/@href').get()
8. # print(title, href)
9.  
10. m4a_id = href.split('/')[-1]
11. # print(href, m4a_id)
12.  
13. # 发送指定id值json数据请求(src)
14. json_url = 'https://www.ximalaya.com/revision/play/v1/audio?id={}&ptype=1'.format(m4a_id)
15. json_data = requests.get(url=json_url, headers=headers).json()
16. # print(json_data)
17.  
18. # 提取音频地址
19. m4a_url = json_data['data']['src']
20. # print(m4a_url)
21.  
22. # 请求音频数据
23. m4a_data = requests.get(url=m4a_url, headers=headers).content
24.  
25. new_title = change_title(title)

4.数据持久化(保存)

1. with open('video\\' + new_title, mode='wb') as f:
2. f.write(m4a_data)
3. print('保存完成:', title)

最后还要处理文件名非法字符

1. def change_title(title):
2. pattern = re.compile(r"[\/\\\:\*\?\"\<\>\|]") # '/ \ : * ? " < > |'
3. new_title = re.sub(pattern, "_", title) # 替换为下划线
4. return new_title

完整代码

1. import re
2.  
3. import requests
4. import parsel # 数据解析模块
5.  
6. def change_title(title):
7. """处理文件名非法字符的方法"""
8. pattern = re.compile(r"[\/\\\:\*\?\"\<\>\|]") # '/ \ : * ? " < > |'
9. new_title = re.sub(pattern, "_", title) # 替换为下划线
10. return new_title
11.  
12. for page in range(13, 33):
13. print('---------------正在爬取第{}页的数据----------------'.format(page))
14. # 1.确定数据所在的链接地址(url) 逆向分析 网页性质(静态网页/动态网页)
15. url = 'https://www.ximalaya.com/youshengshu/4256765/p{}/'.format(page)
16. headers = {
17. 'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/84.0.4147.105 Safari/537.36'}
18.  
19. # 2.通过代码发送url地址的请求
20. response = requests.get(url=url, headers=headers)
21. html_data = response.text
22. # print(html_data)
23.  
24. # 3.解析数据(要的, 筛选不要的) 解析音频的 id值
25. selector = parsel.Selector(html_data)
26. lis = selector.xpath('//div[@class="sound-list _is"]/ul/li')
27.  
28. for li in lis:
29. try:
30. title = li.xpath('.//a/@title').get() + '.m4a'
31. href = li.xpath('.//a/@href').get()
32. # print(title, href)
33.  
34. m4a_id = href.split('/')[-1]
35. # print(href, m4a_id)
36.  
37. # 发送指定id值json数据请求(src)
38. json_url = 'https://www.ximalaya.com/revision/play/v1/audio?id={}&ptype=1'.format(m4a_id)
39. json_data = requests.get(url=json_url, headers=headers).json()
40. # print(json_data)
41.  
42. # 提取音频地址
43. m4a_url = json_data['data']['src']
44. # print(m4a_url)
45.  
46. # 请求音频数据
47. m4a_data = requests.get(url=m4a_url, headers=headers).content
48.  
49. new_title = change_title(title)
50. # print(new_title)
51.  
52. # 4.数据持久化(保存)
53. with open('video\\' + new_title, mode='wb') as f:
54. f.write(m4a_data)
55. print('保存完成:', title)
56. except:
57. pass

运行代码，效果如下图

到此这篇关于Python爬虫实战案例之取喜马拉雅音频数据详解的文章就介绍到这了,更多相关Python爬取喜马拉雅音频数据内容请搜索我们以前的文章或继续浏览下面的相关文章希望大家以后多多支持我们！

原文链接：http://www.cnblogs.com/hhh188764/p/14090849.html