昨天看到个视频,弹幕挺有意思的,于是想着用Python给他全部扒下来。
代码非常简单,接下来我们看看 具体操作。
需要准备这些
软件
- Python 3.8
- Pycharm
模块使用
- import requests 数据请求
- import jieba 分词
- import wordcloud 词云
- import parsel 数据解析
- import re 正则
win + R 输入cmd 输入安装命令 pip install 模块名 (如果你觉得安装速度比较慢, 你可以切换国内镜像源)
文章不理解我还专门录制了视频讲解,文末名片自取即可
本次目标
视频地址: https://www.bilibili.com/video/BV1Nz4y1x7tA/
弹幕内容: https://www.ibilibili.com/video/BV1Nz4y1x7tA/
弹幕地址: https://api.bilibili.com/x/v1/dm/list.so?oid=1205968547
流程步骤
基本实现步骤: <公式>
- 发送请求 --> 数据所对应链接地址
https://api.bilibili.com/x/v1/dm/list.so?oid=1205968547 - 获取数据 --> 获取整个页面数据内容
- 解析数据 --> 提取具体数据内容
- 保存数据 --> 保存本地文件
代码展示
模块导入
# 数据请求模块 --> 第三方模块 需要安装 pip install requests
import requests
# 导入正则表达式 --> 内置模块不需要安装
import re
# 导入数据解析模块 --> 第三方模块 需要安装 pip install parsel
import parsel
发送请求
# 请求链接
url = 'https://api.bilibili.com/x/v1/dm/list.so?oid=1205968547'
# 调用requests模块里面get请求方法对于url地址发送请求
response = requests.get(url)
print(response)
获取数据
获取文本响应数据
print(response.text)
当我们获取数据出现乱码怎么办呢?
response .encoding = 'utf-8'
数据解析
正则匹配数据
re_content = re.findall('<d p=".*?">(.*?)</d>',html_data)
content = re.findall('<source>(.*?)</source>', html_data)
print(re_content)
print(content)
转化数据
把获取到响应文本数据,转成可解析对象。
selector = parsel.Selector(html_data) # 选择器对象# d 标签名字 d::text -提取d标签里的文本内容
css_content = selector.css('d::text').getall()print(selector)
保存数据
for content in css_content:# mode 保存方式 --> w写入数据, 会覆盖 a 追加保存with open('弹幕_1.txt', mode='a', encoding='utf-8') as f:f.write(content)f.write('\n')print(content)
好了,今天的分享就到这里结束了,咱们下次见!