Python实战教程讲解：爬起腾讯课堂视频，优质课程随你挑选[Python基础]

  • Z时代
  • 2024-01-10
  • 分类：综合

python

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,版权归原作者所有,如有问题请及时联系我们以作处理

以下文章来源于青灯编程 ，作者：清风

 

私信回复“资料”，即可免费领取Python实战案例讲解视频

Python爬取B站视频，只需一个B站视频地址，即可任意下载，观看地址：

https://www.bilibili.com/video/BV1LX4y1u7VA/

前言

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。

基本开发环境

  • Python 3.6

  • Pycharm

相关模块的使用

import jieba
import wordcloud
import time
import requests

目标网页分析

今天就爬取青灯教育免费公开课的课程评价

网站地址：

https://ke.qq.com/course/384363?taid=10654594091048299&tuin=8aa5eb27

 

如何获取课程评价？

打开开发者工具（F12或者鼠标右键点击检查），复制评价，在开发者工具当中进行搜索。

 

这个接口数据有10条评价，一页评价也是10条评论，所以只需要请求这个链接，再通过json数据，字典取值的方式提取评价内容即可。

如何实现多页爬取

第一页评价数据接口参数

 

第二页评价数据接口参数

 

通过对比可得：page参数的变化，对应的是页码数。构建for循环即可实现多页爬取效果。

爬虫实现代码

注意点：

headers 参数需要添加 referer 防盗链，不然获取不到数据

import time
import requests
for page in range(0, 23):
    time.sleep(1)
    url = "https://ke.qq.com/cgi-bin/comment_new/course_comment_list"
    headers = {
"referer": "https://ke.qq.com/course/384363?taid=10654585501113707&tuin=8aa5eb27",
"user-agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36"
    }
    params = {
"cid": "384363",
"count": "10",
"page": page,
"filter_rating": "0",
"bkn": "1905043087",
"r": "0.30477140651006174",
    }
    response = requests.get(url=url, params=params, headers=headers)
    html_data = response.json()
    result = html_data["result"]["items"]
for i in result:
        comment = i["first_comment"]
        with open("评价.txt", mode="a", encoding="utf-8") as f:
            f.write(comment)
            f.write("
")
print(comment)

python">
词云实现代码

import jieba
import wordcloud
# 读取文件内容
f = open(r"D:pythondemo腾讯课堂评价评价.txt", encoding="utf-8")
txt = f.read()
# jieba 分词 分割词汇
txt_list = jieba.lcut(txt)
string = "".join(txt_list)
# 词云图设置
wc = wordcloud.WordCloud(
        width=1000,         # 图片的宽
        height=700,         # 图片的高
        background_color="white",   # 图片背景颜色
        font_path="msyh.ttc",    # 词云字体
# mask=py,     # 所使用的词云图片
        scale=15,
        stopwords={"老师"},       # 停用词
# contour_width=5,
# contour_color="red"  # 轮廓颜色
)
# 给词云输入文字
wc.generate(string)
# 词云图保存图片地址
wc.to_file(r"D:pythondemo腾讯课堂评价out.png")

 

 

以上是 Python实战教程讲解：爬起腾讯课堂视频，优质课程随你挑选[Python基础] 的全部内容， 来源链接： utcz.com/z/529961.html

回到顶部