众所周知,豆瓣电影短评在未登录的情况下只能抓取到 200 条,我今天试了试登录,却也只能抓取到 500 条,然后我手动翻了下短评,发现真的只能查看 500 条,从根本上杜绝了爬虫,这也太狠了吧。这种杜绝大翻页的行为感觉「伤敌一千,自损八百」呢?!
众所周知,豆瓣电影短评在未登录的情况下只能抓取到 200 条,我今天试了试登录,却也只能抓取到 500 条,然后我手动翻了下短评,发现真的只能查看 500 条,从根本上杜绝了爬虫,这也太狠了吧。这种杜绝大翻页的行为感觉「伤敌一千,自损八百」呢?!
|
1
正常人能看 500 条?
|
|
tongyifanFeb 9, 2019 via Android
2
楼上正解
|
|
murmurFeb 9, 2019
3
一般人可能只看评分和首页评论
|
|
BiwoodFeb 9, 2019
4
豆瓣电影短评翻页不知道什么时候改成异步加载的,我记得以前都是同步的
|
|
EidenFeb 9, 2019 via Android
5
微博粉丝不也一样
|
|
panpanpanFeb 9, 2019 via iPhone
6
大概一年多以前就是这样了吧。
|
|
crabFeb 9, 2019
7
试下 app 端有没有限制
|
|
locozFeb 9, 2019 via Android
8
正常人也不会看那么多
|
|
MoHen9Feb 9, 2019 via Android
9
豆瓣的 APP,每次在后台运行就跟重启一样,一点儿你之前浏览了什么的痕迹都不留,这点非常差劲。
|
|
x86Feb 9, 2019
10
正常人翻了 10 页左右我都觉得他闲得慌
|
|
starlesFeb 10, 2019
11
去年课设要求做豆瓣爬虫,买了代理池才搞定
|
|
12
的确正常人是不会看 500 条🤦♂️
|