代理ip

　　一般进行数据爬取的时候，数据量都比较大，单个爬虫抓取速度太慢了，通常使用爬虫都是要多个爬虫抓取的，这时候要使用代理IP，使用多个动态IP来抓取，这样可以大大提高爬虫的效率，也能降低单个IP访问的频率，降低风险。那么爬虫多IP抓取，怎么获取大量IP呢？

　　比如，我们在采集数据时，使用分布式网络爬虫,采用多个服务器，多个IP，多个slave网络爬虫同时运行，由master负责调度。效率较高，属于大型分布式抓取，一般用redis分布式抓取。

　　那么这IP怎能来呢？现在IP地址仍然比较缺，我们都还是使用动态IP地址来着，那么如何变换IP地址？爬虫使用的IP地址，并不是几个那么简单，还需要轮换使用，抓取的网页越多，需求的IP数量越多，不然同IP访问次数过多，即使访问频率不快，依然会引起网站的注意，并进行限制访问的。获取IP地址的方法有：

　　根据ADSL拨号服务器换IP，每拨一次就会有一个新IP，较好解决IP单一问题。

　　假如是局域网，带路由器的，第一种方法可能不好用。这个时候可以模拟登陆路由器，控制路由器重新拨号，换IP，这其实是一种折中的办法，曲线救国。

　　代理IP，利用购买的或是网上抓取的免费代理IP，实现多IP网络爬虫。

　　不过免费的代理IP效果不太好，大家可以自己的实际操作下，这里不多说。为了爬虫的效率，小编还是建议购买代理IP使用的，比如网连代理，这家的IP数量以及质量都可以的。

　　综上可知，爬虫多IP抓取，可通过几种方法来获取IP，至于选择哪种方法，就需要看你需要的IP量以及IP质量了。