推薦一個網頁抓取小工具Web Scraper

2019年11月14日05:05:06 科技 1247

推薦一個網頁抓取小工具Web Scraper - 天天要聞

想分享的這款工具是個Chrome下的插件,叫:Web Scraper,是一款可以從網頁中提取數據的Chrome網頁數據提取插件。在某種意義上,你也可以把它當做一個爬蟲工具

也是因為最近在梳理36氪文章一些標籤,打算看下別家和創投相關的網站有什麼標準可以參考,於是發現一家名叫:「烯牛數據」的網站,其提供的一套「行業體系」標籤很有參考價值,就說想把頁面上的數據抓下來,整合到我們自己的標籤庫中,如下圖紅字部分:

推薦一個網頁抓取小工具Web Scraper - 天天要聞

如果是規則展示的數據,還能用滑鼠選擇後複製粘貼,但這種嵌入頁面中的,還是要想些辦法。這時想起之前安裝過Web Scraper,就用下試試,還挺好用的,一下子提高了收集效率。也給大家安利下~

Web Scraper這個Chrome插件,我是一年前在三節課的公開課上看到的,號稱不用懂編程也能實現爬蟲抓取的黑科技,不過貌似三節課官網上找不到了,大家可以百度:「三節課 爬蟲」,還能搜到,名字叫「人人都能學會的數據爬蟲課」,但好像還要交100塊錢。我是覺得這東西看看網上的文章也能學會,比如我這篇~

簡單來說,Web Scraper是個基於Chrome的網頁元素解析器,可以通過可視化點選操作,實現某個定製區域的數據/元素提取。同時它也提供定時自動提取功能,活用這個功能就可以當做一套簡單的爬蟲工具來用了。

這裡再順便解釋下網頁提取器抓取和真正代碼編寫爬蟲的區別,用網頁提取器自動提取頁面數據的過程,有點類似模擬人工點擊的機器人,它是先讓你定義好頁面上要抓哪個元素,以及要抓哪些頁面,然後讓機器去替人來操作;而如果你用Python寫爬蟲,更多是利用網頁請求指令先把整個網頁下載下來,再用代碼去解析HTML頁面元素,提取其中你想要的內容,再不斷循環。相比而言,用代碼會更靈活,但解析成本也會更高,如果是簡單的頁面內容提取,我也是建議用Web Scraper就夠了。

關於Web Scraper的具體安裝過程,以及完整功能的使用方法,我不會在今天的文章里展開說。第一是我只使用了我需要的部分,第二也是因為市面上講Web Scraper的教程很豐富,大家完全可以自行查找。

這裡只以一個實操過程,給大家簡單介紹下我是怎麼用的。

第一步 創建Sitemap

打開Chrome瀏覽器,按F12調出開發者工具,Web Scraper在最後一個頁簽,點擊後,再選擇「Create Sitemap」菜單,點擊「Create Sitemap」選項。

推薦一個網頁抓取小工具Web Scraper - 天天要聞

首先輸入你想抓取的網站URL,以及你自定義的這條抓取任務的名字,比如我取的name是:xiniulevel,URL是:http://www.xiniudata.com/industry/level

第二步 創建抓取節點

我想抓取的是一級標籤和二級標籤,所以先點進去剛才創建的Sitemap,再點擊「Add new selector」,進入抓取節點選擇器配置頁,在頁面上點擊「Select」按鈕,這時你會看到出現了一個浮層

推薦一個網頁抓取小工具Web Scraper - 天天要聞

這時當你滑鼠移入網頁時,會自動把某個你滑鼠懸停的位置綠色高亮。這時你可以先單擊一個你想選擇的區塊,會發現區塊變成了紅色,想把同一層級的區塊全選中,則可以繼續點擊相鄰的下一個區塊,這時工具會默認選中所有同級的區塊,如下圖:

推薦一個網頁抓取小工具Web Scraper - 天天要聞

我們會發現下方懸浮窗的文本輸入框自動填充了區塊的XPATH路徑,接著點擊「Done selecting!」結束選擇,懸浮框消失,選中的XPATH自動填充到下方Selector一行。另外務必選中「Multiple」,以聲明你要選多個區塊。最後點擊Save selector按鈕結束。

推薦一個網頁抓取小工具Web Scraper - 天天要聞

第三步 獲取元素值

完成Selector的創建後,回到上一頁,你會發現多了一行Selector表格,接下來就可以直接點擊Action中的Data preview,查看所有想獲取的元素值。

推薦一個網頁抓取小工具Web Scraper - 天天要聞

推薦一個網頁抓取小工具Web Scraper - 天天要聞

上圖所示部分,是我已經添加了一級標籤和二級標籤兩個Selector的情況,點擊Data preview的彈窗內容其實就是我想要的,直接複製到EXCEL就行了,也不用什麼太複雜的自動化爬取處理。

以上就是對Web Scraper使用過程的簡單介紹。當然我的用法還不是完全高效,因為每次想獲取二級標籤時還要先手動切換一級標籤,再執行抓取指令,應該還有更好的做法,不過對我而言已經足夠了。這篇文章主要是想和你普及下這款工具,不算教程,更多功能還是要根據你的需求自行摸索~

怎麼樣,是否有幫到你?期待你的留言與我分享~

科技分類資訊推薦

小米SU7創始版追加開售 Max創始版秒售罄 - 天天要聞

小米SU7創始版追加開售 Max創始版秒售罄

易車訊 4月1日中午12點,小米汽車宣布小米SU7創始版追加開售,攔截首輪異常訂單,釋放第二輪定購機會。定金20000元,下定即鎖單,已下定非創始版的用戶,本輪成功下定可轉單。而追加開售剛剛開啟,Max創始版秒售罄。3月28日,小米SU7正式上市,售價區間21.59-29.99萬元。其中創始版包含標準版創始版和Max創始版兩款車型,售...
我們該行動了!台積電公布十大董事提名,新增一位美國議員 - 天天要聞

我們該行動了!台積電公布十大董事提名,新增一位美國議員

我們該行動了!台積電公布十大董事提名,新增一位美國議員!在赴美建廠一事上,台積電創始人張忠謀一直都是拒絕的態度,但在其退休由劉德音接手後,這一切就水到渠成了,在美國520億美元補貼的誘惑下,答應了400億美元在亞利桑那州建設5nm、3nm工廠。
印度二手磨床進口到國內清關涉及哪些環節及報關資料 - 天天要聞

印度二手磨床進口到國內清關涉及哪些環節及報關資料

歐洲進口舊磨床到國內涉及多個環節,包括選擇供應商、簽訂合同、運輸安排、報關報檢以及後續的售後服務等。。一、選擇進口舊磨床供應商和簽訂合同進口舊磨床需要在歐洲找到合適的舊磨床供應商。在選擇供應商時,考慮其信譽、產品質量、價格以及售後服務等因素。
2024 Q1葯企併購TOP10 - 天天要聞

2024 Q1葯企併購TOP10

來源:葯智頭條公眾號圖片來源:攝圖網未來5年,多款重磅炸彈級藥物的關鍵專利將到期,涉及幾乎所有主要製藥公司,包括默沙東的K葯(Keytruda)、BMS的O葯(Opdivo))和Eliquis、再生元的Eylea(阿柏西普)、輝瑞的Ibrance和Prevnar13、拜耳/強生的Xarelto等重磅單品。大葯企將有更多M&A(併購)需求。另一方面,ADC、R
雷軍回應網友反饋暈電車:小米SU7肯定不暈 可以試下 - 天天要聞

雷軍回應網友反饋暈電車:小米SU7肯定不暈 可以試下

【CNMO科技消息】隨著新能源汽車市場的持續火熱,各大車企紛紛加大研發力度,以解決消費者普遍關心的「暈電車」問題。近日,雷軍在社交媒體上發文表示,新能源車企業應該團結起來,共同推動行業進步。雷軍  據悉,有網友在評論區提及「暈電車」的問題,指出部分電動汽車在行駛過程中可能會出現暈車現象,這一問題一直是困...
iOS 18 什麼時候到來?iOS 18 將支持哪些機型升級? - 天天要聞

iOS 18 什麼時候到來?iOS 18 將支持哪些機型升級?

近日,蘋果公司宣布將於美國太平洋時間6月10日至6月14日舉辦WWDC 2024全球開發者大會,並在6月10日當天在Apple Park舉辦特別活動。此次大會將發布最新一代的iOS 18、iPadOS 18、macOS 15、tvOS 18以及watchOS 11和visionOS 2操作系統。本次WWDC 2024全球開發者大會最受消費者關注的莫過於iOS
iOS 17.5 Beta 1 什麼時候發布?iOS 17.5 Beta 1新功能預測 - 天天要聞

iOS 17.5 Beta 1 什麼時候發布?iOS 17.5 Beta 1新功能預測

iOS 17.4.1正式版本已推送兩個,是時候到OS 17.5登場了。蘋果什麼時候會發布iOS 17.5 Beta 1?iOS 17.5 Beta 都會有哪些新功能?據可靠消息人士透露,iOS 17.5 Beta1預計將在本周或下周的某個時間上線,內部版本號為 21F5048f。9to5Mac 獲取到的 Google Analytics 數據也顯示出 iOS
安徽電信建成省內首張5G-A專網 - 天天要聞

安徽電信建成省內首張5G-A專網

來源:人民郵電報 本報訊 近日,中國電信安徽公司建成省內首張5G-A專網,並在合肥駱崗中央公園、蕪湖東匯港兩地圓滿完成了安徽省內首次基於5G-A毫米波技術的無人機感知能力測試驗證。這一創新舉措不僅為5GA技術的廣泛應用奠定了堅實基礎,也為安徽低空經濟的繁榮發展提供了新動能。
台電 T65MAX 平板即將上市:13 英寸屏幕,4 揚聲器 - 天天要聞

台電 T65MAX 平板即將上市:13 英寸屏幕,4 揚聲器

IT之家 4 月 1 日消息,台電官宣,旗下新款平板電腦 T65MAX 即將上市,擁有 13 英寸屏幕和 4 揚聲器配置,主打影音視頻體驗。據官方介紹,台電 T65MAX 平板電腦擁有 13 英寸屏幕,相較於 10.1 英寸平板電腦可視面積大了「65%」,對比 11 英寸平板大了「42%」的可視面積,能給用戶帶來更為沉浸的觀影感受。該平板還擁有 4...