文章詳情頁
python爬蟲防封IP的方法應該放到代碼的哪個位置
瀏覽：148日期：2022-09-21 13:56:12
問題描述
想要爬豆瓣電影，但是很容易403，就想代理IP或者修改請求頭，但是看了很多資料，不知道他們那些代碼應該放到整個程序的哪個位置，我用的是美麗湯和request，應該增添什么代碼，增添到什么位置
問題解答
回答1：BeautifulSoup的中文名原來叫美麗湯。。。
吐槽完畢，服務端一般是通過IP報文來檢測請求的IP的地址的，所以單純的修改HTTP請求的內容一般來說是不起作用的，最好的方式是使用 Requests 的代理功能來進行訪問，可以解除 IP 限制的問題。
回答2：請看看Python爬蟲聯想詞視頻和代碼https://zhuanlan.zhihu.com/p/...
跟黃哥學Python爬蟲抓取代理IP和驗證。https://zhuanlan.zhihu.com/p/...跟黃哥學Python爬蟲抓取代理IPhttps://zhuanlan.zhihu.com/p/...
相關文章：
1. boot2docker無法啟動2. 關docker hub上有些鏡像的tag被標記““This image has vulnerabilities””3. docker-compose中volumes的問題4. javascript - mock.js可以存儲數據嗎5. docker安裝后出現Cannot connect to the Docker daemon.6. nignx - docker內nginx 80端口被占用7. java - SSH框架中寫分頁時service層中不能注入分頁類8. docker api 開發的端口怎么獲取？9. dockerfile - 為什么docker容器啟動不了？10. golang - 用IDE看docker源碼時的小問題
排行榜
網公網安備