Python代码爬取下载应用宝所有APP软件
前言
本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。
基本环境配置
- python 3.6
- pycharm
- requests
- parsel
打开开发者工具分析网页
你怎么知道这个就是下载地址呢?
1、选择一个应用的下载地址
2、打开开发者工具,清空数据,选择Network
3、点击立即下载
4、就会发现下载地址
把链接地址复制,在网页源代码中搜索,查看是否网页是否有返回该数据
- 有数据: 就可以直接请求网页获取地址;
- 没有数据: 那就要在开发这工具里面找是否有接口数据,然后一步一步在进行分析;
实现效果
完整代码
import requestsimport parseldef download(url, title):path
= "D:pythondemo应用宝手机APP软件APP软件" + title + ".apk"response
= requests.get(url=url, headers=headers)with open(path, mode
="wb") as f:f.write(response.content)
for page in range(100, 123):url
= "https://sj.qq.com/myapp/category.htm?orgame=1&categoryId={}".format(page)headers
= {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36"}
response
= requests.get(url=url, headers=headers)selector
= parsel.Selector(response.text)lis
= selector.css(".main ul li")for li in lis:title
= li.css(".app-info-desc a:nth-child(1)::text").get()apk_url
= li.css(".app-info-desc a:nth-child(4)::attr(ex_url)").get()print(title, apk_url)download(apk_url, title)
以上是 Python代码爬取下载应用宝所有APP软件 的全部内容, 来源链接: utcz.com/z/530223.html