《表3 爬虫工作量分布表:一种分布式爬虫系统的设计与应用》
但是目前slave爬虫数量还需人工根据经验预估提前设定,未来可以向根据任务量自动设定爬虫数量方向进行改进。同时目前多个爬虫分担的工作量还不够均衡,可以从负载均衡角度出发进行改进,充分发挥每个爬虫的资源。
图表编号 | XD0091305600 严禁用于非法目的 |
---|---|
绘制时间 | 2019.01.20 |
作者 | 周逸、李新、陈远平 |
绘制单位 | 中国科学院计算机网络信息中心、中国科学院大学、中国科学院计算机网络信息中心、中国科学院计算机网络信息中心 |
更多格式 | 高清、无水印(增值服务) |