建站百科Website News

网站需要有爬虫进来，放进这个虫子，会使得自己网站有排名。西安网站维护小编对于爬虫类型分别做了分析，具体如下

西安网站维护小编将网站爬虫分为了三种不同的类型

批量型爬虫（BatchCrawler)：批量型爬虫有比较明确的抓取范围和目标，当爬虫达到这个设定的目标后，即停止抓取过程。至于具体目标可能各异，也许是设定抓取一定数量的网页即可，也许是设走抓取消耗的时间等，不一而足。

增量型爬虫（IncrementalCrawler)：增量型爬虫与批量型爬虫不同，会保持持续不断的抓取，对于抓取到的网页，要定期更新，因为互联网网页处于不断变化屮，新增网页、网页被删除或者网页内容更改都很常见，而增量型爬虫需要及时反映这种变化,所以处于持续不断的抓取过程中，不是在抓取新网页，就是在更新已有网页。通用的商业搜索引擎爬虫基本都属于此类。

垂直型爬虫（FocusedCrawler)：垂直型爬虫关注特定主题内容或者属于特定行业的网页，比如对于网站建设网站来说，只需要从互联网页面里找到与网站建设相关的页面内容即可，其他行业的内容不在考虑范围。垂直型爬虫一个大的特点和难点就是：如何识别网页内容是否属于指定行业或者主题：从节省系统资源的角度来说，不太可能把所有互联网页面下载下来之后再去筛选，这样浪费资源就太过分了，往往需要爬虫在抓取阶段就能够动态识别某个网址是否与主题相关，并尽量不去抓取无关页面，以达到节省资源的目的。