Hi, all~
在闲暇时间里写了个爬虫，爬取拉勾网的数据，目前爬到了将近 5.4W 条公司的数据，近 10W 条职位的数据。
简单地做了个 web 页面展示关于各编程语言的职位详情，可以看到的信息有:
工作年限要求分布、
薪水分布、
各城市职位占比、
学历要求情况、
职位数量的变化情况、
招聘这些职位的公司的融资情况分布,
可访问 http://www.jobinfo.cc:8000/ 查看这些信息。
源码的地址: https://github.com/GuozhuHe/webspider
爬取到的数据已经放到百度云上了( https://pan.baidu.com/s/1gfIi5gv), 密码在项目的 readme 文件可以看到，诸位可自取~~
最后的最后，如果感觉还不错，不妨给个 star 哦 ~ yeap
_(:з」∠)_
 |
hololensSep 1, 2017
1
楼主是知乎员工么，楼主能说一下学习爬虫的途径么。
|
 |
2
买了本爬虫的书，了解些基础知识后就直接开始写项目了，遇到不会的问题就 google 解决。
|
 |
a87150Sep 1, 2017
3
echar.js 是啥？ echarts ？
|
 |
silencefentSep 1, 2017
4
数据还是看不出价值...比如搜 js 和搜客服，出来的数据都差不多
|
 |
LeoNGSep 1, 2017
5
不知道是我电脑辣鸡还是什么，网页打开会卡一下。
Chrome. iMac 13. |
 |
wen4434Sep 1, 2017
6
有语言就更好了
|
 |
geekyoungSep 1, 2017
7
在搜索框给个提示也许会更好，另外如搜索 自然语言处理 或 nlp 数据不一样，作者搜索这个地方是怎么处理的？
|
|
8
@a87150 不注意写错了 (°Д°) ~~已经改过来了
|
|
9
@silencefent 通常职位的数据差别不会很大，就算差个百分之十几从图像看起来也不会相差很大。我也发现了这个问题，在考虑更好更直观的方式呈现。
|
|
10
@geekyoung 其实搜索这里取巧了，在抓取的时候会存储职位的关键词信息，搜索时查询的是关键词。
|
|
11
@LeoNG 真的吗，可能加载 JS 时卡了。。 _:(´ཀ`」 ∠):_
|
 |
xiaoshengSep 1, 2017
12
@CallMeHoney 求书名...
|
|
geekyoungSep 1, 2017
13
@CallMeHoney 恩 了解了
|
|
15
@xiaosheng 书的确不重要 很多问题时在实际中才能遇到的
书是《 Python 网络数据采集》 比较薄 容易看完(当初也是因为这个原因才选的这本书) _(:з」∠)_ |
 |
ClarencepSep 1, 2017
16
话说 Python 的职位好少，远不及 Java PHP
|
 |
huangfsSep 1, 2017
17
http://www.jobinfo.cc:8000/?keyword=nlp 0727 貌似没数据了。
|
 |
qianguozhengSep 1, 2017
18
这年头那么多人些 python 爬虫练手阿
|
 |
justffSep 1, 2017 via Android
19
你们这个学校。。你哪年毕业
|
 |
xiaotianhuSep 1, 2017 via iPhone
20
看起来 中老年人还是应该搞 java
|
 |
sunwei0325Sep 2, 2017
21
学习楼主代码中, 不知道还有 buildout 这个东西
|
 |
hjdtlSep 2, 2017
22
daoyan??
|
|
23
|
 |
mafeifanSep 2, 2017
24
最好放上统计日期范围
|
|
hjdtlSep 2, 2017
25
@CallMeHoney 我以为你是我的朋友，头像一样。。。
|
 |
winglight2016Sep 3, 2017
26
北京地区需求高出这么多？感觉可能是拉钩的运营重点不同导致的吧？
|
|
27
@winglight2016 北京的职位的确高出其他城市的很多 我看了一下其他招聘网站也基本是这个样子
|
 |
wlh233Sep 3, 2017
28
楼主是为了这个项目专门买了这个 jobinfo 域名吗_(:з」∠)_
|
|
29
@wlh233 几十块而已。。
|
|
30
@mafeifan 什么统计日期？是统计数据截止到几号吗
|
|
31
@sunwei0325 感觉 buildout 还是挺好用的
|
|
32
@justff 今年刚刚毕业~~
|
|
mafeifanSep 4, 2017
33
@CallMeHoney 这些数据是哪个时间段内的
|
Select Language