Python脚本如何在bilibili中查找弹幕发送者

Emma ·

更新时间:2024-11-14

· 995 次阅读

总所周知bilibili是没有办法直接查看弹幕的发送者的，这使得当我们看到一些nt弹幕的时候虽然生气，却无可奈何，但是B站是可以屏蔽某个用户发送的弹幕的，这说明数据接口里肯定有用户信息，由于最近在学爬虫，所以我想先找找弹幕接口，分析下里面的数据。

找接口

找接口当然是随便打开一个视频然后F12啦，可是当我找了两圈后我傻眼了，没找到啊。。得，不能把时间浪费在这种事情上，果断打开百度，不出所料，找到了如下的两个接口，都是XML格式网页

https://comment.bilibili.com/+cid
https://api.bilibili.com/x/v1/dm/list.so?oid=+cid

这里面的cid是一种每个视频独有的数字，也就是每一P都有一个cid，查找cid可以打开网页然后F12，再ctrl+f搜索cid，一般八九位数的就是cid了。

这里我找到了一个接口，可以通过aid找到cid

https://www.bilibili.com/widget/getPageList?aid=+aid

分析数据

弹幕数据是获取到了，那么我们就要从这一堆数据中分析他们的用途了

在这里插入图片描述

这里大概能得到两个信息，其中第6个数据为时间戳，第8个数据为用户uid的某种加密方式。经查询得到这是用户uid经过crc32校验得到的结果转为16进制数，所以只能通过uid得到对于的校验码，无法反推。。似乎只能通过彩虹表的方式查找数据了？那么这串8位16进制的数字在数据库中要用什么方式保存呢？
选择似乎有varchar和bigint，由于B站有差不多6亿个用户，在6亿个数据中查找想要的字符串那速度必然很慢（但有人经测试得到varchar型数据和bigint型数据查找速度其实差的不多？）
就在我决定用bigint储存数据时，我突然想到，8位16进制那就是2的32次方，int型的储存上限时2的31次方，如果用无符号的方式保存正好是2的32次方，也就是能储存到0xffffffff这么大的数据，正好满足要求。于是果断换成无符号int，与之对应的id也为无符号int，并将crc32b编码过后的数据作为主键，制成彩虹表存入我的服务器内。
（粗略的算了一下，6亿数据就是需要27G左右的空间…而我的服务器一共才40G的大小…）

做成网页供大家使用

接下来的操作似乎就水到渠成了，写了个python脚本，该python脚本接受2个参数，视频cid和想要搜索的弹幕关键字，返回用户发送的弹幕，用户的crc32b编码，时间戳。然后用php的exec函数执行python代码，并通过搜索数据库找出用户的uid，通过php返回json格式数据给前端。

python代码(写的很烂)


import requests
from bs4 import BeautifulSoup
import re
import io
import sys
sys.stdout = io.TextIOWrapper(sys.stdout.buffer,encoding='utf-8')
req = requests.get('https://comment.bilibili.com/'+sys.argv[1]+'.xml')
req.encoding = req.apparent_encoding
soup = BeautifulSoup(req.text, 'html.parser').find_all(name='d')
result = ""
for i in soup:
 s = re.sub('<(.*?)>', '', str(i))
 index = 0
 if(len(sys.argv[2])>0):
  index = s.find(str(sys.argv[2]))
 if(index!=-1):
  result+=str(i).split(",")[6]+","+s+","+str(i).split(",")[4]+","
print(result)

效果展示

前端代码就是随便写的~至少功能实现了嘛

在这里插入图片描述