推荐一个网页抓取小工具Web Scraper

2019年11月14日05:05:06 科技 1247

推荐一个网页抓取小工具Web Scraper - 天天要闻

想分享的这款工具是个Chrome下的插件,叫:Web Scraper,是一款可以从网页中提取数据的Chrome网页数据提取插件。在某种意义上,你也可以把它当做一个爬虫工具

也是因为最近在梳理36氪文章一些标签,打算看下别家和创投相关的网站有什么标准可以参考,于是发现一家名叫:“烯牛数据”的网站,其提供的一套“行业体系”标签很有参考价值,就说想把页面上的数据抓下来,整合到我们自己的标签库中,如下图红字部分:

推荐一个网页抓取小工具Web Scraper - 天天要闻

如果是规则展示的数据,还能用鼠标选择后复制粘贴,但这种嵌入页面中的,还是要想些办法。这时想起之前安装过Web Scraper,就用下试试,还挺好用的,一下子提高了收集效率。也给大家安利下~

Web Scraper这个Chrome插件,我是一年前在三节课的公开课上看到的,号称不用懂编程也能实现爬虫抓取的黑科技,不过貌似三节课官网上找不到了,大家可以百度:“三节课 爬虫”,还能搜到,名字叫“人人都能学会的数据爬虫课”,但好像还要交100块钱。我是觉得这东西看看网上的文章也能学会,比如我这篇~

简单来说,Web Scraper是个基于Chrome的网页元素解析器,可以通过可视化点选操作,实现某个定制区域的数据/元素提取。同时它也提供定时自动提取功能,活用这个功能就可以当做一套简单的爬虫工具来用了。

这里再顺便解释下网页提取器抓取和真正代码编写爬虫的区别,用网页提取器自动提取页面数据的过程,有点类似模拟人工点击的机器人,它是先让你定义好页面上要抓哪个元素,以及要抓哪些页面,然后让机器去替人来操作;而如果你用Python写爬虫,更多是利用网页请求指令先把整个网页下载下来,再用代码去解析HTML页面元素,提取其中你想要的内容,再不断循环。相比而言,用代码会更灵活,但解析成本也会更高,如果是简单的页面内容提取,我也是建议用Web Scraper就够了。

关于Web Scraper的具体安装过程,以及完整功能的使用方法,我不会在今天的文章里展开说。第一是我只使用了我需要的部分,第二也是因为市面上讲Web Scraper的教程很丰富,大家完全可以自行查找。

这里只以一个实操过程,给大家简单介绍下我是怎么用的。

第一步 创建Sitemap

打开Chrome浏览器,按F12调出开发者工具,Web Scraper在最后一个页签,点击后,再选择“Create Sitemap”菜单,点击“Create Sitemap”选项。

推荐一个网页抓取小工具Web Scraper - 天天要闻

首先输入你想抓取的网站URL,以及你自定义的这条抓取任务的名字,比如我取的name是:xiniulevel,URL是:http://www.xiniudata.com/industry/level

第二步 创建抓取节点

我想抓取的是一级标签和二级标签,所以先点进去刚才创建的Sitemap,再点击“Add new selector”,进入抓取节点选择器配置页,在页面上点击“Select”按钮,这时你会看到出现了一个浮层

推荐一个网页抓取小工具Web Scraper - 天天要闻

这时当你鼠标移入网页时,会自动把某个你鼠标悬停的位置绿色高亮。这时你可以先单击一个你想选择的区块,会发现区块变成了红色,想把同一层级的区块全选中,则可以继续点击相邻的下一个区块,这时工具会默认选中所有同级的区块,如下图:

推荐一个网页抓取小工具Web Scraper - 天天要闻

我们会发现下方悬浮窗的文本输入框自动填充了区块的XPATH路径,接着点击“Done selecting!”结束选择,悬浮框消失,选中的XPATH自动填充到下方Selector一行。另外务必选中“Multiple”,以声明你要选多个区块。最后点击Save selector按钮结束。

推荐一个网页抓取小工具Web Scraper - 天天要闻

第三步 获取元素值

完成Selector的创建后,回到上一页,你会发现多了一行Selector表格,接下来就可以直接点击Action中的Data preview,查看所有想获取的元素值。

推荐一个网页抓取小工具Web Scraper - 天天要闻

推荐一个网页抓取小工具Web Scraper - 天天要闻

上图所示部分,是我已经添加了一级标签和二级标签两个Selector的情况,点击Data preview的弹窗内容其实就是我想要的,直接复制到EXCEL就行了,也不用什么太复杂的自动化爬取处理。

以上就是对Web Scraper使用过程的简单介绍。当然我的用法还不是完全高效,因为每次想获取二级标签时还要先手动切换一级标签,再执行抓取指令,应该还有更好的做法,不过对我而言已经足够了。这篇文章主要是想和你普及下这款工具,不算教程,更多功能还是要根据你的需求自行摸索~

怎么样,是否有帮到你?期待你的留言与我分享~

科技分类资讯推荐

65亿美元芯片收购案,遭美国二次调查 - 天天要闻

65亿美元芯片收购案,遭美国二次调查

本文由半导体产业纵横(ID:ICVIEWS)综合 美国FTC对软银收购Ampere展开深度调查。 据知情人士透露,美国联邦贸易委员会就软银拟收购 Arm 服务器处理器厂商Ampe....
DRAM市场,将创新高 - 天天要闻

DRAM市场,将创新高

本文由半导体产业纵横(ID:ICVIEWS)综合 传统通用型DRAM和服务器高价值DRAM量价齐升双重驱动,2025年DRAM市场有望创新高。 根据CFM最新报告显示,2025年....
国产晶圆代工,市场巨变! - 天天要闻

国产晶圆代工,市场巨变!

未来十年,将是晶圆代工业的关键转折期。 这一判断,在近期一组数据中得到了清晰印证。根据 Yole Group 的最新报告,中国大陆有望在 2030 年超越中国台湾,跃居全球最大半导体晶圆代....
像卖车一样卖机器人?机器人体验店迎来爆发潮 - 天天要闻

像卖车一样卖机器人?机器人体验店迎来爆发潮

变现是目前人形机器人最大的问题。为了提高销量,更快形成社会氛围,拉动人才集中,业内诞生出多个全新思路。其中,集中展示4S店以及比赛,无疑是近期人形机器人行业关注的焦点。本文盘点了近日出现的4S店新模式▍具微科技(机器人4S店)6月30日,杭州迎来全国首家具身智能机器人4S店的开业。这个由具微科技打造的具身智能...
79元,小米刚上架的这服务,真的太爽啦 - 天天要闻

79元,小米刚上架的这服务,真的太爽啦

虽然今天比较受关注的,是小米1999元/月租金的「小米青年公寓」。但机哥还是想提醒一波。手持小米老机型的机友们,要是电池健康度已经掉了很多、又或是觉得手机续航不太够用。可别错过小米今天开启的「七月服务周」活动。活动时间是7月1日10点-7月
“全球Z世代创未来”:“上海·未来城市”全球创意作品征集 - 天天要闻

“全球Z世代创未来”:“上海·未来城市”全球创意作品征集

上海的未来是什么样子?让青年人来说,才算数。无论你来自哪里,带着怎样的故事,都能在这座城市找到属于自己的归属感。只因上海,从来不只是一座城,更是无数梦想的交汇点。用年轻的方式,去看见这座城市的无限可能吧。一则视频,一张照片,一幅插画,甚至是一行代码……你的创意,将成为链接世界的桥梁;你的表达,将定义...
行进中国丨重庆汽车产业向“新”而行 - 天天要闻

行进中国丨重庆汽车产业向“新”而行

这座超级工厂内,1600多台智能终端、3000多台机器人协同运作,实现了焊接过程自动化率100%、喷涂自动化率100%、全自动智能伺服压机线自动化率100%,满产后下线一台车最快仅需30秒。
微信朋友圈有变动!网友:最讨厌的功能终于取消了 - 天天要闻

微信朋友圈有变动!网友:最讨厌的功能终于取消了

1日有网友发消息称微信最新版本可以关闭共同好友点赞提醒了开启这项功能后,共同好友对你互动过的朋友圈进行点赞或评论时,系统不再推送红点提醒,但仍可在消息列表中查看,也就是共友互动时就不再通知了。