《表3 因素水平表:基于网络爬虫的搜索引擎的设计与实现》
对于Scrapy-Redis框架,修改对应的措施,实现分布式爬虫的要求。首先在Scrapy-Redis功能配置的defaults文件中设置REDIS_CLS=redis.Strict Redis可以提供对Redis集群操作的方法。然后添加Redis配置,对DOWNLOADER_MIDDLE-WARES,SCHEDULER和ITEM_PIPELEINES分别设置对应的措施满足分布式爬虫的要求。最后在connection中添加Redis集群实例化的措施。
图表编号 | XD00187165500 严禁用于非法目的 |
---|---|
绘制时间 | 2020.10.25 |
作者 | 高文超、李浩源、徐永康 |
绘制单位 | 中国矿业大学(北京)机电与信息工程学院、中国矿业大学(北京)机电与信息工程学院、中国矿业大学(北京)机电与信息工程学院 |
更多格式 | 高清、无水印(增值服务) |