爬蟲ip代理采集被封了怎么辦?
jj
2022-03-21
爬蟲被封了怎么辦?在用代理ip軟件爬取信息的過程中,如果爬取頻率過高或者使用多線程,很容易被禁止訪問。網站的反爬蟲機制一般是基于IP和用戶的用戶代理來識別爬蟲。因此,爬蟲中的開發者通常需要采取兩種措施來解決這個問題:

1.減緩抓取速度,減輕目標網站壓力。不過這樣會減少單位時間類的抓取量。
2.第二種方法是突破反爬蟲機制,通過設置代理IP等手段繼續高頻爬行。但這需要大量穩定的代理IP軟件。
IP代理軟件可以免費搜索,但是不一定穩定,還有收費的,比如精靈IP代理。
下面介紹兩種方式:基于ADSL撥號的常見解決方案。通常在搶的過程中禁止訪問時,可以再次撥打ADSL獲取新的IP,這樣就可以繼續搶了。但在多網站多線程抓取的情況下,如果禁止了某個網站的抓取,也會影響到其他網站的抓取,整體上也會降低抓取速度。一種可能的解決方案也是基于ADSL撥號。不同的是需要兩臺能夠ADSL撥號的服務器,這兩臺服務器在搶的過程中作為代理使用。假設有兩臺服務器A和B可以撥打ADSL。爬蟲運行在C服務器上,使用A作為代理訪問外部網絡。如果爬行過程中禁止訪問,立即將代理切換到B,然后重撥A,如果再次禁止訪問,切換到A作為代理,B再次撥號,以此類推。綜上所述,最簡單的方法就是購買現成的代理IP軟件產品。
下一篇:什么是靜態ip線路?