推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
wjx1993
V2EX  ›  Python

直播弹幕的爬虫,有人爬过吗?求指导一下啊

  •  1
     
  •   wjx1993 · Apr 18, 2018 · 7316 views
    This topic created in 3121 days ago, the information mentioned may be changed or developed.

    直播平台: https://v.6.cn 爬取任意主播的房间的弹幕

    17 replies  •  2018-04-18 22:24:13 +08:00
    Luckyray
    Luckyray
    Apr 18, 2018 via iPhone
    1
    六间房的不清楚,其他几家的直播弹幕我记得是 socket,没法爬吧,你得截个包看看怎么建立连接。
    wzwwzw
    wzwwzw
    Apr 18, 2018
    2
    点进去看了一下,结果发现是 HTTP 的请求。
    [![Snipaste_2018-04-18_02-10-35.png]( https://i.loli.net/2018/04/18/5ad638b1cc0a8.png)]( https://i.loli.net/2018/04/18/5ad638b1cc0a8.png)
    sean10
    sean10
    Apr 18, 2018 via Android
    3
    github 上不少,记得有些是模拟发包请求弹幕的
    wjx1993
    wjx1993
    OP
    Apr 18, 2018 via Android
    4
    @Luckyray 是的,socket 这块不太懂,求教一下👍
    wjx1993
    wjx1993
    OP
    Apr 18, 2018 via Android
    5
    @sean10 没有这个平台的,有点麻烦
    fgodt
    fgodt
    Apr 18, 2018 via Android
    6
    一般弹幕都是 websocket 和 socket 你要抓包看请求 找规律,然后想办法找到 key
    wjx1993
    wjx1993
    OP
    Apr 18, 2018 via Android
    7
    @fgodt 抓包后看起来有点乱,看不太懂,所以没找到 key,求指导一二
    A555
    A555
    Apr 18, 2018
    8
    @wjx1993 我记得好几年前 b 站是可以打包下载弹幕的,不知道这功能现在还有没有
    okzpy9425
    okzpy9425
    Apr 18, 2018
    9
    websocket 或者自己再 socket 上封装的协议。

    https://github.com/zhao94254/rebuilt 这个是我用 go 写的,你可以参考下
    jijiwaiwai
    jijiwaiwai
    Apr 18, 2018
    10
    pip install danmu
    wjx1993
    wjx1993
    OP
    Apr 18, 2018 via Android
    11
    @jijiwaiwai 这个好像只有斗鱼的还可以运行
    fgodt
    fgodt
    Apr 18, 2018
    12
    抓包用来看发包顺序,key 和加解密算法就需要你反编译一些官方的东西来找了,比如安卓、flash 等这就不深说了
    NotNil1
    NotNil1
    Apr 18, 2018
    13
    有些平台是有开发协议的 ,不用爬,我记得比如熊猫直接有 API,你去官网看看.
    DeWhite
    DeWhite
    Apr 18, 2018 via Android
    14
    模拟发包,然后弹幕出来然后过滤。
    wjx1993
    wjx1993
    OP
    Apr 18, 2018 via Android
    15
    @ljtletters 我记得应该没有,没有找到
    wjx1993
    wjx1993
    OP
    Apr 18, 2018 via Android
    16
    @okzpy9425 弹幕的礼物数量可以取到吗?我没找到,求解
    okzpy9425
    okzpy9425
    Apr 18, 2018
    17
    @wjx1993 可以。有一个字段是礼物的。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   3349 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 68ms · UTC 10:38 · PVG 18:38 · LAX 02:38 · JFK 05:38
    ♥ Do have faith in what you're doing.