午夜剧场伦理_日本一道高清_国产又黄又硬_91黄色网战_女同久久另类69精品国产_妹妹的朋友在线

您的位置:首頁技術文章
文章詳情頁

Python爬蟲防封ip的一些技巧

瀏覽:187日期:2022-07-14 18:18:34

在編寫爬蟲爬取數據的時候,因為很多網站都有反爬蟲措施,所以很容易被封IP,就不能繼續爬了。在爬取大數據量的數據時更是瑟瑟發抖,時刻擔心著下一秒IP可能就被封了。

本文就如何解決這個問題總結出一些應對措施,這些措施可以單獨使用,也可以同時使用,效果更好。

偽造User-Agent

在請求頭中把User-Agent設置成瀏覽器中的User-Agent,來偽造瀏覽器訪問。比如:

headers ={’User-Agent’:’Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/52.0.2743.116 Safari/537.36’} resp = requests.get(url,headers = headers)

還可以先收集多種瀏覽器的User-Agent,每次發起請求時隨機從中選一個使用,可以進一步提高安全性:

Python爬蟲防封ip的一些技巧

把上面隨機選擇一個User-Agent的代碼封裝成一個函數:

Python爬蟲防封ip的一些技巧

在每次重復爬取之間設置一個隨機時間間隔

比如:

time.sleep(random.randint(0,3)) # 暫停0~3秒的整數秒,時間區間:[0,3]

或:

time.sleep(random.random()) # 暫停0~1秒,時間區間:[0,1)

偽造cookies

若從瀏覽器中可以正常訪問一個頁面,則可以將瀏覽器中的cookies復制過來使用,比如:

Python爬蟲防封ip的一些技巧

注:用瀏覽器cookies發起請求后,如果請求頻率過于頻繁仍會被封IP,這時可以在瀏覽器上進行相應的手工驗證(比如點擊驗證圖片等),然后就可以繼續正常使用該cookies發起請求。

使用代理

可以換著用多個代理IP來進行訪問,防止同一個IP發起過多請求而被封IP,比如:

附:GitHub上的一個'反反爬蟲'項目

道高一尺魔高一丈,你有反爬蟲措施,那我也有各種'反反爬蟲'的措施,GitHub上就有一位大神專門整理了一個這樣的項目:Anti-Anti-Spider,鏈接地址為:github.com/luyishisi/An可以研究一下。

以上就是Python爬蟲防封ip的一些技巧的詳細內容,更多關于Python爬蟲防封ip的資料請關注好吧啦網其它相關文章!

標簽: Python 編程
相關文章:
主站蜘蛛池模板: 国产黄视频在线观看 | 久久性片 | 麻豆回家视频区一区二 | 天天操妹子 | 国产suv精品一区二区883 | 好吊色在线视频 | 国产suv精品一区二区33 | 天天色播| 欧美又粗又大又长 | av在线播放一区 | 免费黄色在线视频 | 一区二区视频在线观看 | 青草草在线视频 | www.天天色 | 亚洲天堂手机在线 | 日韩精品在线观看免费 | 国产精品视频www | 韩日黄色片| 国产第1页 | 精品一区二区三区视频 | 国产白拍| 色综合五月天 | 成年人黄网站 | 天天操天天爱天天干 | 国产一区二区久久 | 久久久伊人网 | 日韩精品国产一区二区 | 鲁大师影院在线播放观看免费版中文 | 国产成人精 | 一区二区av在线 | 欧美成人综合色 | 久艹视频在线 | 日日干日日插 | 五月婷婷开心中文字幕 | 一级黄视频 | 成人免费入口 | 四虎影院在线免费观看 | 中文字幕精品在线 | 亚洲视频网站在线观看 | 欧美午夜精品久久久久免费视 | 成人高清 |