一篇文章教會你利用Python網(wǎng)絡(luò)爬蟲獲取分類圖片
【四、涉及的庫和網(wǎng)站】
1、網(wǎng)址如下:
https://www.doutula.com/photo/list/?page={}
2、涉及的庫:requests、lxml、fake_useragent、time、os
3、軟件:PyCharm
【五、項(xiàng)目實(shí)施】
1、我們定義一個class類繼承object,然后定義init方法繼承self,再定義一個主函數(shù)main繼承self。導(dǎo)入需要的庫和網(wǎng)址,創(chuàng)建保存文件夾。import requests, osfrom lxml import etreefrom fake_useragent import UserAgentimport timeclass bnotiank(object): def __init__(self): os.mkdir("圖片") # 在創(chuàng)建文件夾 記住只有第一次運(yùn)行加上,如果多次運(yùn)行請注釋掉本行。 def main(self): passif __name__ == '__main__': Siper=bnotiank() Siper.main()
2、隨機(jī)UserAgent ,構(gòu)造請求頭,防止反爬。 ua = UserAgent(verify_ssl=False) for i in range(1, 50): self.headers = { 'User-Agent': ua.random }
3、發(fā)送請求 ,獲取響應(yīng),頁面回調(diào),方便下次請求。 '''發(fā)送請求 獲取響應(yīng)''' def get_page(self, url): res = requests.get(url=url, headers=self.headers) html = res.content.decode("utf-8") return html
4、定義parse_page函數(shù),獲取二級頁面地址,for遍歷獲取需要的字段。
def parse_page(self, html): parse_h(yuǎn)tml = etree.HTML(html) image_src_list = parse_h(yuǎn)tml.xpath('//p/a/@href') # print(image_src_list)
5、對二級頁面發(fā)生請求,xpath解析數(shù)據(jù),獲取大圖片鏈接。
reo = parse_h(yuǎn)tml1.xpath('//div//div[@class="content"]') #父結(jié)點(diǎn) for j in reo: d = j.xpath('.//article[@class="article-content"]//p/img/@src')[0] text = parse_h(yuǎn)tml1.xpath('//h1[@class ="article-title"] //a/text()')[0].strip()
6、請求圖片地址,寫入文檔。
html2 = requests.get(url=d, headers=self.headers).content dirname = "./d/" + text + ".jpg" #定義圖命名 with open(dirname, 'wb') as f: f.write(html2) print("%s 【下載成功。。!】" % text)
7、調(diào)用方法,實(shí)現(xiàn)功能。 url = self.url.format(page) print(url) html = self.get_page(url) self.parse_page(html)
8、設(shè)置延時。(防止ip被封)。
time.sleep(1) """時間延時"""
【六、效果展示】
1、點(diǎn)擊綠色小三角運(yùn)行輸入起始頁,終止頁。
2、將下載成功信息顯示在控制臺。

發(fā)表評論
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
即日-9.1立即下載>> 【限時下載】ADI中國三十周年感恩回饋助力企業(yè)升級!
-
10月23日立即報(bào)名>> Works With 開發(fā)者大會深圳站
-
11月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會
-
精彩回顧立即查看>> 【在線研討會】解析安森美(onsemi)高精度與超低功耗CGM系統(tǒng)解決方案
-
精彩回顧立即查看>> 【在線會議】CAE優(yōu)化設(shè)計(jì):醫(yī)療器械設(shè)計(jì)的應(yīng)用案例與方案解析
-
精彩回顧立即查看>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
推薦專題
- 1 傳魏建軍與賈躍亭合作,長城汽車出海美國
- 2 黃仁勛:與雷軍長期合作,共探AI智駕
- 3 阿里首位程序員,“掃地僧”多隆已離職
- 4 DeepSeek R2加持,中國AI與芯片產(chǎn)業(yè)迎來新一輪協(xié)同進(jìn)化
- 5 先進(jìn)算力新選擇 | 2025華為算力場景發(fā)布會暨北京xPN伙伴大會成功舉辦
- 6 六大國產(chǎn)大模型,誰是最強(qiáng)“金融分析師”?|錦緞評測
- 7 2025年第一支10倍股,來了!
- 8 募資39.85億元!寒武紀(jì)押注大模型芯片與軟件平臺
- 9 國內(nèi)免費(fèi)版Deep Research上線,秘塔AI深度研究嘗試重塑知識工作范式
- 10 清華跑出具身智能獨(dú)角獸:給機(jī)器人安上眼睛和大腦,融資近20億