不同的爬虫类型对代理ip的使用也不同吗？

　　大数据抓取经常需要用到python爬虫来完成，那么你知道到底网络爬虫有着多少种类型?不同的爬虫类型对于代理ip的使用会不会有不一样的需求?

　　1、垂直型爬虫：

　　垂直型爬虫一个最大的特点和难点就是：如何识别网页内容是否属于指定行业或主题。从节省系统资源的角度来讲，不可能把所有互联网页面下载之后在进行筛选，这样会造成资源过度浪费，往往需要爬虫在抓取阶段就能够动态识别某个网址是否与主题相关，并尽量不去抓取无关页面，以达到节省资源的目的。

　　2、批量型爬虫：批量型爬虫有比较明确的抓取范围和目标，当爬虫达到这个设定的目标后，即停止抓取过程。至于具体目标可能各异，也许是设定抓取一定数量的网页即可，也许是设定抓取的时间等，各不一样。

　　3、增量型爬虫：增量型爬虫与批量型爬虫不同，会保持持续不断的抓取，对于抓取到的网页，要定期更新。因为互联网网页处于不断变化中，新增网页、网页被删除或者网页内容更改都很常见，而增量型爬虫需要及时反映这种变化，所以处于持续不断的抓取过程中，不是在抓取新网页，就是在更新已有网页。通用的商业搜索引擎爬虫基本都属此类。

　　根据不同的爬虫设计，大家的ip使用数量或许会存在着差异，这些都是需要提前做好规划的。