redis分布式

    • 2023.04.15 | admin | 221次围观
      【Scrapy学习心得】爬虫实战五(Scrapy-Redis分布式爬虫)
      声明:仅供技术交流,请勿用于非法用途,如有其它非法用途造成损失,和本文无关 前言 废话不多说,直接开始吧~本次爬取的网站是:有缘网 一、基本配置 一台master机,一台slave机,本文使用的master是云服务器(Ubuntu),而slave是我的笔记本电脑(Windows) 两台机都需要安装Python3.7、Scrapy框架、Scrapy-Redis框架 在master机上安装Redis数据库,并配置好能够远程连接等等 二、分析页面 我们随便筛选几个条件搜索一下,发现...
    1