作為一個爬蟲愛好者，你有沒有遇到過一個已經(jīng)設(shè)置好的分布式爬蟲，即將讓程序使用代理IP抓取數(shù)據(jù)，而服務(wù)器已經(jīng)設(shè)置好了，突然發(fā)現(xiàn)辦公室的IP被屏蔽了。那你應(yīng)該怎么做，應(yīng)該怎么解決？

 

 

 

 

隨著大數(shù)據(jù)時代的到來，爬蟲的這種工作場景經(jīng)常會遇到:

 

 

 

1.如果你是個人，作為愛好，就交不了代理費。當(dāng)然，在線抓取自由代理，檢查IP有效性10分鐘。當(dāng)然這種搶到的IP是極其不穩(wěn)定的，但是免費的東西就是免費的東西，用起來就好。作為一個個體。

 

 

 

2.申請多個adsl，不斷撥號獲取IP，這個項目難度要大一點:一是一個城市可用的IP池有限，二是可能會面臨各種撥號問題，維護(hù)起來比較困難。

 

 

 

3.網(wǎng)上購買收費代理。目前市場上充電代理供應(yīng)商很多，精靈ip代理就是其中之一。