zhang2e

豆瓣的反爬虫这么严格了现在?

  •  
  •   zhang2e · Feb 9, 2019 · 11658 views
    This topic created in 2826 days ago, the information mentioned may be changed or developed.

    众所周知,豆瓣电影短评在未登录的情况下只能抓取到 200 条,我今天试了试登录,却也只能抓取到 500 条,然后我手动翻了下短评,发现真的只能查看 500 条,从根本上杜绝了爬虫,这也太狠了吧。这种杜绝大翻页的行为感觉「伤敌一千,自损八百」呢?!

    12 replies  •  2019-02-10 14:58:26 +08:00
    leido
    leido
    Feb 9, 2019 via Android❤️9
    1
    正常人能看 500 条?
    tongyifan
    tongyifan
    Feb 9, 2019 via Android
    2
    楼上正解
    murmur
    murmur
    Feb 9, 2019
    3
    一般人可能只看评分和首页评论
    Biwood
    Biwood
    Feb 9, 2019
    4
    豆瓣电影短评翻页不知道什么时候改成异步加载的,我记得以前都是同步的
    Eiden
    Eiden
    Feb 9, 2019 via Android
    5
    微博粉丝不也一样
    panpanpan
    panpanpan
    Feb 9, 2019 via iPhone
    6
    大概一年多以前就是这样了吧。
    crab
    crab
    Feb 9, 2019
    7
    试下 app 端有没有限制
    locoz
    locoz
    Feb 9, 2019 via Android
    8
    正常人也不会看那么多
    MoHen9
    MoHen9
    Feb 9, 2019 via Android
    9
    豆瓣的 APP,每次在后台运行就跟重启一样,一点儿你之前浏览了什么的痕迹都不留,这点非常差劲。
    x86
    x86
    Feb 9, 2019
    10
    正常人翻了 10 页左右我都觉得他闲得慌
    starles
    starles
    Feb 10, 2019
    11
    去年课设要求做豆瓣爬虫,买了代理池才搞定
    zhang2e
    zhang2e
    OP
    Feb 10, 2019 via iPhone
    12
    的确正常人是不会看 500 条🤦‍♂️
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1485 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 1051ms · UTC 17:50 · PVG 01:50 · LAX 09:50 · JFK 12:50
    ♥ Do have faith in what you're doing.