python爬取鏈家二手房的數(shù)據(jù)
打開鏈家官網(wǎng),進(jìn)入二手房頁面,選取某個(gè)城市,可以看到該城市房源總數(shù)以及房源列表數(shù)據(jù)。

某些網(wǎng)站的數(shù)據(jù)是存放在html中,而有些卻api接口,甚至有些加密在js中,還好鏈家的房源數(shù)據(jù)是存放到html中:

通過requests請(qǐng)求頁面,獲取每頁的html數(shù)據(jù)
# 爬取的url,默認(rèn)爬取的南京的鏈家房產(chǎn)信息url = ’https://nj.lianjia.com/ershoufang/pg{}/’.format(page)# 請(qǐng)求urlresp = requests.get(url, headers=headers, timeout=10)四、解析html,提取有用數(shù)據(jù):
通過BeautifulSoup解析html,并提取相應(yīng)有用的數(shù)據(jù)
soup = BeautifulSoup(resp.content, ’lxml’)# 篩選全部的li標(biāo)簽sellListContent = soup.select(’.sellListContent li.LOGCLICKDATA’)# 循環(huán)遍歷for sell in sellListContent: # 標(biāo)題 title = sell.select(’div.title a’)[0].string # 先抓取全部的div信息,再針對(duì)每一條進(jìn)行提取 houseInfo = list(sell.select(’div.houseInfo’)[0].stripped_strings) # 樓盤名字 loupan = houseInfo[0] # 對(duì)樓盤的信息進(jìn)行分割 info = houseInfo[0].split(’|’) # 房子類型 house_type = info[1].strip() # 面積大小 area = info[2].strip() # 房間朝向 toward = info[3].strip() # 裝修類型 renovation = info[4].strip() # 房屋地址 positionInfo = ’’.join(list(sell.select(’div.positionInfo’)[0].stripped_strings)) # 房屋總價(jià) totalPrice = ’’.join(list(sell.select(’div.totalPrice’)[0].stripped_strings)) # 房屋單價(jià) unitPrice = list(sell.select(’div.unitPrice’)[0].stripped_strings)[0]
以上就是我的分享,如果有什么不足之處請(qǐng)指出,多交流,謝謝!
以上就是python爬取鏈家二手房的數(shù)據(jù)的詳細(xì)內(nèi)容,更多關(guān)于python爬取鏈家二手房的資料請(qǐng)關(guān)注好吧啦網(wǎng)其它相關(guān)文章!
相關(guān)文章:
1. ASP新手必備的基礎(chǔ)知識(shí)2. asp文件用什么軟件編輯3. CentOS郵箱服務(wù)器搭建系列——SMTP服務(wù)器的構(gòu)建( Postfix )4. PHP基礎(chǔ)之生成器4——比較生成器和迭代器對(duì)象5. JAVA 實(shí)現(xiàn)延遲隊(duì)列的方法6. JS中6個(gè)對(duì)象數(shù)組去重的方法7. Vue axios獲取token臨時(shí)令牌封裝案例8. 通過IEAD+Maven快速搭建SSM項(xiàng)目的過程(Spring + Spring MVC + Mybatis)9. js實(shí)現(xiàn)計(jì)算器功能10. 利用CSS制作3D動(dòng)畫

網(wǎng)公網(wǎng)安備