午夜剧场伦理_日本一道高清_国产又黄又硬_91黄色网战_女同久久另类69精品国产_妹妹的朋友在线

您的位置:首頁技術文章
文章詳情頁

python - 2億++的網址,怎樣快速確認網頁狀態碼?

瀏覽:192日期:2022-07-10 11:36:21

問題描述

用requests寫了個多線程,感覺有點慢,還有其他方法么?

問題解答

回答1:

使用 Tornado 的 curl 客戶端支持,讀到請求頭就關閉連接。(我還沒試過。如果它提供的 HTTP 客戶端不支持中途關閉連接的話,可以像我這樣使用 TCP 然后用 http-parser 來解析。)

好吧,其實你可以直接給 fetchtitle 加個取狀態碼的擴展就可以了……(記得裝 pycurl 哦)

回答2:

python本來就慢,想速度快就直接寫tcp請求然后讀回復,讀到狀態后就關掉socket。

回答3:

使用grequests,對requests進行了并發封裝

https://github.com/kennethrei...

回答4:

這種情況可以考慮使用gevent,tornado,scrapy-redis,asyncio!

回答5:

用Head請求能快一點吧?

標簽: Python 編程
主站蜘蛛池模板: 五月天婷婷色 | 亚洲黄色精品视频 | 黄网站在线观看 | 青青艹在线观看 | 女同av在线 | 久久精品8 | 欧美性生交xxxxx久久久缅北 | 麻豆理论片 | 欧美成人三级在线 | 亚洲午夜不卡 | 久久中文字幕视频 | 久久99精品久久久 | 91精品一区二区三区四区 | 男人的天堂2019 | 韩国精品久久久 | 色哟哟一区二区 | 亚洲综合色网 | 亚洲一区二区观看 | 亚洲精品福利视频 | 青娱乐超碰在线 | 这里只有精品在线观看 | 欧美成人精品一区二区三区 | 久久综合亚洲 | 久久夜色精品 | 日日噜噜噜夜夜爽爽狠狠 | 大地6在线影院 | 男人的天堂在线视频 | av成人在线看 | 久艹伊人 | 四虎影城 | 中文字幕精品视频在线 | 日本精品久久久久 | 亚洲成年人在线观看 | 久久久久久久久久久网站 | 日韩一二三四五区 | 国产美女一区二区三区 | 色综合久久久久 | 日韩在线免费视频 | 成人a v视频 | av网站观看| 日韩亚洲一区二区三区 |