为什么HTTP资源显示请求频繁?相信有使用过HTTP代理的朋友都会遇到过这样的情况:就是在使用HTTP代理时会显示请求频繁呢?这是为什么呢?那是因为,你用的代理IP凑巧是别人用过且用来访问的网站相同,用的还比较频繁,这种情况一般出现在免费代理IP、普通代理IP或者开放代理IP,还有一些IP池比较小的 共享IP 池上。很多朋友总觉得IP池太大,我也用不了那多啊,不是浪费吗?能不能给个小点的IP池,价格再降低一些呢。这样的想法是不对的,IP池小,用的人多,那么项目冲突的几率也就越大,所以我们在找代理IP的时候,在保证IP有效率的同时IP池越大越好的,这样可以保证IP的新鲜度。
除了更大的共享IP池可以缓解或者避免这种情况, 独享IP 池和优质代理也是一个不错的选择,独享IP池是一个人独自享用,那么就没有人会和你冲突,当你控制每个IP都在目标网站设置的阈值内,就不会因为访问频繁而被封IP;一手私密代理做了项目隔离,每个人做不同的项目,互不干扰,互不冲突,这样也可以避免和别人的项目冲突,遇到这种错误的几率也很小。
所以,当您遇到“您的请求太过频繁,请稍后再试”时,不要慌,要镇定,检查下自己的爬虫策略,是否真的访问太过频繁,检查下自己的代理IP是否真的比较干净,调整自己的策略,选择更加纯净的IP,就能有效的避免这个错误了