scrapy教程

安装scrapyd和scrapyd_client以及scrapyd设置密码以及启动

1,安装scrapyd和scrapyd_client:进入到scrapy对应的虚拟环境,然后pip install scrapyd 和pip install scrapyd-client进行安装。

2,在scrapyd_client安装目录下找到deploy.py复制到scrapy目录下(跟scrapy.cfg通目录)

3,修改scrapyd配置文件,配置文件在scrapyd的安装文件夹下面,名字为default_scrapyd.conf 。首先把bind_address的值改为0.0.0.0,然后为了安全性设置一个密码,把username和password的值写上,如下图:

image.png

4,修改配置完成后,需要重启一下scrapyd。ps -aux|grep 'scrapyd'找到scrapyd相应进程杀掉,然后启动scrapyd命令:scrapyd或者scrapyd & 或者nohup scrapyd &

5,到scrapy目录下修改scrapy.cfg文件,修改成如下图:image.png


6,最后使用名利python deploy.py部署项目就可以了


7,如果能用http://xx.xx.xx.xx:6800/访问那就是成功,如下图:

image.png

附上常用的路径:

列出项目:http://xx.xx.xx.xx:6800/listprojects.json

列出相应项目下的爬虫:http://xx.xx.xx.xx:6800/listspiders.json?project=kyqb

最后修改:2021-11-03 10:44:22