时隔五年， Scrapyd 终于原生支持 basic auth

Issue in 2014

scrapy/scrapyd/issues/43

Pull request in 2019

scrapy/scrapyd/pull/326

试用

1.安装

pip install -U git+https://github.com/my8100/scrapyd.git@add_basic_auth

2.更新配置文件 scrapyd.conf，其余配置项详见官方文档

[scrapyd]
username = yourusername
password = yourpassword

3.启动：scrapyd

In [1]: import requests

In [2]: requests.get('http://127.0.0.1:6800/').status_code
Out[2]: 401

In [3]: requests.get('http://127.0.0.1:6800/', auth=('admin', 'admin')).status_code
Out[3]: 401

In [4]: requests.get('http://127.0.0.1:6800/', auth=('yourusername', 'yourpassword')).status_code
Out[4]: 200

4.由于 Scrapyd 的 GitHub 最新提交已经重构了 Jobs 页面，如果正在使用 ScrapydWeb 管理 Scrapyd，则需同步更新 ScrapydWeb：

pip install -U git+https://github.com/my8100/scrapydweb.git

GitHub

my8100/scrapyd